Keras - 自定义层

---

---

Keras允许我们创建自己的自定义层。创建新层后，可以在任何模型中无限制地使用它。让我们学习如何在本章中创建新层。

Keras提供了一个基础的层类Layer，可以对其进行子类化以创建我们自己的自定义层。让我们创建一个简单的层，它将根据正态分布查找权重，然后在训练期间进行基本计算，即查找输入与其权重的乘积之和。

步骤1：导入必要的模块

首先，让我们导入必要的模块：

from keras import backend as K 
from keras.layers import Layer

这里：

• backend用于访问dot函数。

• Layer是基类，我们将对其进行子类化以创建我们的层。

步骤2：定义层类

让我们通过对Layer类进行子类化来创建一个新类MyCustomLayer：

class MyCustomLayer(Layer): 
   ...

步骤3：初始化层类

让我们按照如下所示初始化我们的新类：

def __init__(self, output_dim, **kwargs):    
   self.output_dim = output_dim 
   super(MyCustomLayer, self).__init__(**kwargs)

这里：

• 第2行设置输出维度。

• 第3行调用基类或超类的init函数。

步骤4：实现build方法

build是主要方法，其唯一目的是正确构建层。它可以执行与层内部工作相关的任何操作。完成自定义功能后，我们可以调用基类的build函数。我们的自定义build函数如下：

def build(self, input_shape): 
   self.kernel = self.add_weight(name = 'kernel', 
      shape = (input_shape[1], self.output_dim), 
      initializer = 'normal', trainable = True) 
   super(MyCustomLayer, self).build(input_shape)

这里：

• 第1行定义了带有一个参数input_shape的build方法。输入数据的形状由input_shape表示。

• 第2行创建与输入形状对应的权重，并将其设置为内核。这是层的自定义功能。它使用'normal'初始化器创建权重。

• 第6行调用基类的build方法。

步骤5：实现call方法

call方法在训练过程中执行层的精确工作。

我们的自定义call方法如下：

def call(self, input_data): 
   return K.dot(input_data, self.kernel)

这里：

• 第1行定义了带有一个参数input_data的call方法。input_data是我们的层的输入数据。

• 第2行返回输入数据input_data和我们层的内核self.kernel的点积。

步骤6：实现compute_output_shape方法

def compute_output_shape(self, input_shape): return (input_shape[0], self.output_dim)

这里：

• 第1行定义了带有一个参数input_shape的compute_output_shape方法。

• 第2行使用输入数据的形状和初始化层时设置的输出维度来计算输出形状。

实现build、call和compute_output_shape完成了创建自定义层。最终完整的代码如下所示：

from keras import backend as K from keras.layers import Layer
class MyCustomLayer(Layer): 
   def __init__(self, output_dim, **kwargs): 
      self.output_dim = output_dim 
      super(MyCustomLayer, self).__init__(**kwargs) 
   def build(self, input_shape): self.kernel = 
      self.add_weight(name = 'kernel', 
      shape = (input_shape[1], self.output_dim), 
      initializer = 'normal', trainable = True) 
      super(MyCustomLayer, self).build(input_shape) # 
      Be sure to call this at the end 
   def call(self, input_data): return K.dot(input_data, self.kernel) 
   def compute_output_shape(self, input_shape): return (input_shape[0], self.output_dim)

使用我们的自定义层

让我们使用我们的自定义层创建一个简单的模型，如下所示：

from keras.models import Sequential 
from keras.layers import Dense 

model = Sequential() 
model.add(MyCustomLayer(32, input_shape = (16,))) 
model.add(Dense(8, activation = 'softmax')) model.summary()

这里：

• 我们的MyCustomLayer使用32个单元和(16,)作为输入形状添加到模型中。

运行应用程序将打印如下所示的模型摘要：

Model: "sequential_1" 
_________________________________________________________________ 
Layer (type) Output Shape Param 
#================================================================ 
my_custom_layer_1 (MyCustomL (None, 32) 512 
_________________________________________________________________
dense_1 (Dense) (None, 8) 264 
================================================================= 
Total params: 776 
Trainable params: 776 
Non-trainable params: 0 
_________________________________________________________________