中间层模板

将中间层模板复制到MATLAB中的新文件中。此模板概述了中间层类定义的结构。它概述了：

classdefmyLayer%&nnet.layer.Formattable（可选）性质%（可选）图层特性。%在此声明图层特性。终止性质（可学习）%（可选）图层可学习参数。%在这里声明可学习的参数。终止性质（州）%（可选）图层状态参数。%在这里声明状态参数。终止性质（可学习的，州）%（可选）具有两个可学习对象的嵌套dlnetwork对象%参数和状态。%在此处声明具有可学习和状态参数的嵌套网络。终止方法作用图层=myLayer（）%（可选）创建myLayer。%此函数必须与类同名。%在这里定义层构造函数。终止作用[Z，状态]=预测（层，X）%在预测时通过层转发输入数据，并%输出结果和更新的状态。%%投入：%层-要向前传播的层%X-输入数据%产出：%Z—层前向函数的输出%状态-（可选）更新的图层状态。%%-对于具有多个输入的层，将X替换为X1，…，XN，%其中N是输入的数量。%-对于具有多个输出的图层，将Z替换为%Z1，…，ZM，其中M是输出的数量。%-对于具有多个状态参数的图层，请替换状态%对于state1，…，stateK，其中K是状态数%参数。%在这里定义层预测函数。终止作用[Z，状态，内存]=转发（层，X）%（可选）在训练时通过图层转发输入数据%计时并输出结果、更新状态和内存%价值观。%%投入：%层-要向前传播的层%X层输入数据%产出：%Z—层前向函数的输出%状态-（可选）更新的图层状态%内存-（可选）自定义向后的内存值%作用%%-对于具有多个输入的层，将X替换为X1，…，XN，%其中N是输入的数量。%-对于具有多个输出的图层，将Z替换为%Z1，…，ZM，其中M是输出的数量。%-对于具有多个状态参数的图层，请替换状态%对于state1，…，stateK，其中K是状态数%参数。%在这里定义层转发函数。终止作用图层=重置状态（图层）%（可选）重置图层状态。%在这里定义重置状态函数。终止作用[dLdX，dLdW，dLdSin]=向后（层，X，Z，dLdZ，dLdSout，内存）%（可选）反向传播损失的导数%功能通过层。%%投入：%层-要向后传播的层%X层输入数据%Z层输出数据%dLdZ-损失对层的导数%输出%dLdSout-（可选）损失的衍生工具%陈述输出%memory-前进功能的记忆值%产出：%dLdX-损失对层输入的导数%dLdW—（可选）与以下各项有关的损失衍生工具：%可学习参数%dLdSin—（可选）与以下各项有关的损失衍生工具：%状态输入%%-对于具有状态参数的图层，必须使用向后语法%同时包括dLdSout和dLdSin，或两者都不包括。%-对于具有多个输入的图层，将X和dLdX替换为%X1，…，XN和dLdX1，…，dLdXN，其中N是%输入的数量。%-对于具有多个输出的图层，将Z和dlZ替换为%Z1，…，ZM和dLdZ，…，dLdZM，其中M是%产出数量。%-对于具有多个可学习参数的图层，请替换%dLdW带dLdW1，…，dLdWP，其中P是%可学习的参数。%-对于具有多个状态参数的图层，请替换dLdSin%使用dLdSin1、…、dLdSinK和%dLdSout1，…dldSoutK，其中K是数字%状态参数的定义。%在这里定义层向后函数。终止终止终止

命名图层并指定超类

首先，为图层命名。在类文件的第一行中，替换现有名称迈莱尔具有前奏者.

classdef预层%&nnet.layer.Formattable（可选）...终止

如果未指定反向函数，则默认情况下，层函数将接收无格式dlarray对象作为输入。指定图层接收的格式化dlarray对象作为输入，也作为格式化的输出dlarray对象，也从nnet.layer.Formattable定义自定义图层时初始化。

该层不需要formattable输入，因此删除可选的nnet.layer.Formattable超类。

classdef预层...终止

接下来，重命名迈莱尔构造函数（函数中的第一个函数）方法节），使其与图层具有相同的名称。

方法作用层=预层（）。。。终止...终止

声明属性和可学习参数

在中声明图层特性性质节，并通过在属性（可学习）部分

默认情况下，自定义中间层具有这些特性。不要在中声明这些属性性质部分

如果图层没有其他特性，则可以忽略性质部分

PReLU层不需要任何其他特性，因此可以删除性质部分

PReLU层只有一个可学习的参数，即缩放系数A.. 在属性（可学习）节并调用参数阿尔法.

性质（可学习）%层可学习参数%比例系数阿尔法终止

创建构造函数

创建构造层的函数并初始化层属性。指定创建层所需的任何变量作为构造函数的输入。

PReLU layer构造函数需要一个输入参数（通道数）和一个可选参数（层名称）。通道数指定可学习参数的大小阿尔法. 指定两个名为数字通道和args在前奏者分别对应于通道数和可选输入参数的函数。在函数顶部添加注释，解释函数的语法。

作用层=预层（numChannels，args）%layer=preluLayer（numChannels）创建一个PReLU层%使用numChannels频道。%%layer=preluLayer（numChannels，Name=Name）还指定%图层名称...终止

论据numChannels args.Name="";终止%设置图层名称。layer.Name=args.Name；

%设置图层描述。图层.说明=“预习”+数字通道+“频道”;

%初始化比例系数。层α=兰德（[1个数字通道]）；

作用层=预层（numChannels，args）%layer=preluLayer（numChannels）创建一个PReLU层%使用numChannels频道。%%layer=preluLayer（numChannels，Name=Name）还指定%图层名。论据numChannels args.Name="";终止%设置图层名称。layer.Name=名称；%设置图层描述。图层.说明=“预习”+数字通道+“频道”;%初始化比例系数。层α=兰德（[1个数字通道]）；终止

创建转发函数

创建预测时和训练时使用的层转发函数。

创建一个名为预测将数据向前传播通过位于的层预测时间并输出结果。

这个预测函数语法取决于层的类型。

可以调整具有多个输入、多个输出或多个状态参数的图层的语法：

因为PReLU层只有一个输入和一个输出，所以预测对于PReLU层是Z=预测（层，X）.

默认情况下，层使用预测作为训练时的前锋。要在训练时使用不同的正向函数，或保留自定义反向函数所需的值，还必须创建一个名为向前地.

输入尺寸取决于数据类型和连接层的输出：

对于输出序列的层，层可以输出任意长度的序列，或者输出没有时间维度的数据列车网络函数，输入和输出序列的长度必须匹配。

这个向前地函数通过位于的层向前传播数据训练时间并且还输出存储器值。

这个向前地函数语法取决于图层的类型：

可以调整具有多个输入、多个输出或多个状态参数的图层的语法：

PReLU操作由以下公式给出：

哪里 $$x_{我}$$是非线性激活的输入F频道上我和 $${\alpha }_{我}$$是控制负部分斜率的系数。下标我在里面 $${\alpha }_{我}$$表明非线性激活可以在不同通道上变化。

在中执行此操作预测. 在里面预测，输入X对应于x在方程式中，输出Z对应于 $$F(x_{我})$$. PReLU层不需要内存或用于训练的其他转发功能，因此您可以删除向前地函数从类文件中删除。在函数顶部添加注释，解释函数的语法。

作用Z=预测（层，X）%Z=预测（层，X）通过%图层并输出结果Z。Z=最大（X，0）+层α。*最小（0，X）；终止

因为预测函数仅使用支持万博1manbetxdlarray对象，定义向后的功能是可选的。有关支持的函数的列表万博1manbetxdlarray对象，请参见支持dlarray的函数列表万博1manbetx.

完成层

查看已完成的图层类文件。

classdef预层%示例自定义PReLU层。性质（可学习）%层可学习参数%比例系数阿尔法终止方法作用层=预层（numChannels，args）%layer=preluLayer（numChannels）创建一个PReLU层%使用numChannels频道。%%layer=preluLayer（numChannels，Name=Name）还指定%图层名。论据numChannels args.Name="";终止%设置图层名称。layer.Name=名称；%设置图层描述。图层.说明=“预习”+数字通道+“频道”;%初始化比例系数。层α=兰德（[1个数字通道]）；终止作用Z=预测（层，X）%Z=预测（层，X）通过%图层并输出结果Z。Z=最大（X，0）+层α。*最小（0，X）；终止终止终止

GPU兼容性

如果层转发功能完全支持万博1manbetxdlarray对象，则层与GPU兼容。否则，要与GPU兼容，层函数必须支持类型为的输入和返回输出万博1manbetxgpuArray（并行计算工具箱）.

许多MATLAB内置函数支持万博1manbetxgpuArray（并行计算工具箱）和dlarray输入参数。用于支持的函数列表万博1manbetxdlarray对象，请参见支持dlarray的函数列表万博1manbetx。有关在GPU上执行的函数的列表，请参阅在GPU上运行MATLAB函数（并行计算工具箱）.要使用GPU进行深度学习，您还必须拥有受支持的GPU设备。有关支持的设备的信息，请参阅万博1manbetxGPU版万博1manbetx本支持（并行计算工具箱）.有关在MATLAB中使用GPU的更多信息，请参见MATLAB中的GPU计算（并行计算工具箱）.

在本例中，使用了预测全部支持万博1manbetxdlarray对象，因此该层与GPU兼容。

使用检查自定义图层的有效性检查层

检查自定义图层的图层有效性前奏者.

自定义图层前奏者，作为支持文件附于此示例，将PReLU操作应用于输入数据。若要访问此层万博1manbetx，请将此示例作为实时脚本打开。

创建图层的实例，并使用检查层。将有效输入大小指定为该层典型输入的单个观测值的大小。该层需要4-D阵列输入，其中前三个维度对应于前一层输出的高度、宽度和通道数，第四个维度对应于观测值。

指定观测输入的典型大小并设置观察维度选项4。

图层=preluLayer（20）；validInputSize=[24 24 20]；检查图层（图层，validInputSize，ObservationDimension=4）

跳过GPU测试。找不到兼容的GPU设备。跳过代码生成兼容性测试。要检查代码生成层的有效性，请指定“CheckCodegenCompatibility”和“ObservationDimension”选项。不向后运行nnet.checklayer.TestLayer。。。。。。。。完成nnet.checklayer.TestLayerWithoutBackward测试摘要：18通过，0失败，0不完整，10跳过。所用时间：1.9312秒。

在这里，函数不会检测到层的任何问题。

在网络中包含自定义层

您可以像使用深度学习工具箱中的任何其他层一样使用自定义层。本节介绍如何使用您先前创建的PReLU层创建和训练数字分类网络。

加载示例训练数据。

[XTrain，YTrain]=数字列车4DRARAYDATA；

创建包含自定义图层的图层阵列前奏者，作为支持文件附于此示例。要访问此层，请将此示例作为实时脚本打开。万博1manbetx

layers=[imageInputLayer（[28 28 1]）卷积2dLayer（5,20）批规格化层预层（20）完全连接层（10）softmaxLayer分类层]；

设置培训选项并培训网络。

选项=培训选项(“亚当”，MaxEpochs=10）；net=列车网络（XTrain、YTrain、图层、选项）；

单CPU培训。初始化输入数据规范化。|===================================================================================================================================================================================================================================================================================================================================================================================================================================================历元|迭代|经过的时间|小批量|小批量|基础学习| | | | | |（hh:mm:ss）第二种第二种第二种第二种第二种第二种第二种第二种第二种第四种第四种第四种第四种第二种第二种第二种第二种第第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第二种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种第四种0.0010 | 3 | 100 | 00:00:16 | 85.94%| 0.4878 | 0.0010 | 4 | 150 | 00:00:23 | 88.28%| 0.4068 | 0.0010 | 6 | 200 | 00:00:32 | 96.09%|0.1690 0 0.1690 0 0.1691 0 0.0 0 0 0.1691 0 0 0 0 0 0 0 0 0.1691 0 0 0 0.1690 0 0 0 0.1691 0 0 0 0 0 0 0 0 0.0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0.0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1.0010 | | |============================================================================================================================================================================================================培训已完成：最大时代完整的。

通过预测新数据和计算精度来评估网络性能。

[XTest，YTest]=digitTest4DArrayData；YPred=classify（net，XTest）；精度=mean（YTest==YPred）

精度=0.9178