主要内容

getLearnRateFactor

得到层可学习参数的学习率因子

描述

例子

因素= getLearnRateFactor (parameterName返回带有名称的可学习参数的学习率因子parameterName

对于内置层,您可以通过使用相应的属性直接获得学习率因子。例如,对于aconvolution2dLayer层,语法因素= getLearnRateFactor(层,“权重”)相当于因素=层。WeightLearnRateFactor

例子

因素= getLearnRateFactor (parameterPath返回路径指定的参数的学习速率因子parameterPath.当参数位于dlnetwork对象在自定义层中。

例子

因素= getLearnRateFactor (dlnetlayerNameparameterName返回带有名称的参数的学习率因子parameterName在名称图层中layerName为指定的dlnetwork对象。

例子

因素= getLearnRateFactor (dlnetparameterPath返回路径指定的参数的学习速率因子parameterPath.当参数在嵌套层时使用此语法。

例子

全部折叠

设置并得到自定义PReLU层的可学习参数的学习率因子。

创建包含自定义层的层阵列preluLayer,附加到此示例作为支持文件。万博1manbetx要访问此层,请将此示例作为活动脚本打开。

层= [...imageInputLayer([28 28 1])卷积2dlayer (5,20) batchNormalizationLayer preluLayer(20) fulllyconnectedlayer (10) softmaxLayer classificationLayer];

设置的学习速率因子α的可学习参数preluLayer2。

层(4)= setLearnRateFactor(层(4),“阿尔法”2);

查看更新后的学习率因子。

因素= getLearnRateFactor(层(4),“阿尔法”
因素= 2

设置并得到嵌套层的一个可学习参数的学习率因子。

创建一个残余块层使用自定义层residualBlockLayer作为支持文件附加到本示例中。万博1manbetx要访问此文件,请将此示例作为Live Script打开。

numFilters = 64;层= residualBlockLayer (numFilters)
layer = residualBlockLayer带有属性:Name: " Learnable Parameters Network: [1x1 dlnetwork] State Parameters无属性。显示所有属性

查看嵌套网络的层次。

layer.Network.Layers
ans = 7x1 Layer array with layers:64 3 x3的conv1卷积运算与步幅[1]和填充“相同”2“gn1”集团标准化规范化3‘relu1 ReLU ReLU 4 conv2卷积64 3 x3的隆起与步幅[1]和填充“相同”5“gn2”集团标准化规范化6‘添加’除了Element-wise添加2输入7‘relu2 ReLU ReLU

设置可学习参数的学习率因子“重量”层的“conv1”2 .使用setLearnRateFactor函数。

因素= 2;一层一层= setLearnRateFactor (,“网络/ conv1 /重量”、因素);

获取更新的学习速率因子使用getLearnRateFactor函数。

因素= getLearnRateFactor(层,“网络/ conv1 /重量”
因素= 2

设置并得到a的可学习参数的学习率因子dlnetwork对象。

创建一个dlnetwork对象。

[imageInputLayer([28 28 1],]),“归一化”“没有”“名字”“在”20岁的)convolution2dLayer (5“名字”“conv”) batchNormalizationLayer (“名字”bn的) reluLayer (“名字”“relu”) fullyConnectedLayer (10“名字”“俱乐部”) softmaxLayer (“名字”“sm”));lgraph = layerGraph(层);dlnet = dlnetwork (lgraph);

设置的学习速率因子“重量”可学习参数的卷积层2使用setLearnRateFactor函数。

因素= 2;dlnet = setLearnRateFactor (dlnet,“conv”“重量”、因素);

使用。获取更新的学习率因子getLearnRateFactor函数。

因素= getLearnRateFactor (dlnet,“conv”“重量”
因素= 2

集合中嵌套层的可学习参数的学习率因子dlnetwork对象。

创建一个dlnetwork包含自定义层的residualBlockLayer作为支持文件附加到本示例中。万博1manbetx要访问此文件,请将此示例作为Live Script打开。

inputSize = [224 224 3];numFilters = 32;numClasses = 5;[imageInputLayer(inputSize,“归一化”“没有”“名字”“在”numFilters) convolution2dLayer(7日,“步”2,“填充”“相同”“名字”“conv”) groupNormalizationLayer (所有渠道的“名字”“gn”) reluLayer (“名字”“relu”) maxPooling2dLayer (3“步”2,“名字”“马克斯”) residualBlockLayer (numFilters“名字”“res1”) residualBlockLayer (numFilters“名字”“它”) residualBlockLayer (2 * numFilters,“步”2,“IncludeSkipConvolution”,真的,“名字”“res3”) residualBlockLayer (2 * numFilters,“名字”“res4”) residualBlockLayer (4 * numFilters,“步”2,“IncludeSkipConvolution”,真的,“名字”“res5”) residualBlockLayer (4 * numFilters,“名字”“res6”) globalAveragePooling2dLayer (“名字”“差距”) fullyConnectedLayer (numClasses“名字”“俱乐部”) softmaxLayer (“名字”“sm”));dlnet = dlnetwork(层);

查看层中嵌套网络的层数“res1”

dlnet.Layers .Network.Layers (6)
ans = 7x1 Layer array with layers:1‘conv1卷积32 3 x3x32旋转步[1]和填充“相同”2“gn1”集团标准化规范化32通道分为1组3的relu1 ReLU ReLU 4 conv2的卷积32 3 x3x32旋转步[1]和填充“相同”5“gn2”集团标准化规范化32通道分成32组6 '添加'添加元素,添加2个输入

设置可学习参数的学习率因子“重量”层的“conv1”2 .使用setLearnRateFactor函数。

因素= 2;dlnet = setLearnRateFactor (dlnet,“res1 /网络/ conv1 /重量”、因素);

获取更新的学习速率因子使用getLearnRateFactor函数。

因素= getLearnRateFactor (dlnet,“res1 /网络/ conv1 /重量”
因素= 2

输入参数

全部折叠

输入层,指定为标量对象。

参数名称,指定为字符向量或字符串标量。

嵌套层中的参数路径,指定为字符串标量或字符向量。嵌套层是自定义层,它本身将层图定义为可学习参数。

如果输入getLearnRateFactor是嵌套层,那么参数路径有窗体吗“propertyName / layerName / parameterName”,地点:

  • propertyName属性的名称是否包含dlnetwork对象

  • layerName图层的名称是否在dlnetwork对象

  • parameterName参数的名称

如果有多层嵌套层,则使用表单指定每一层“propertyName1 / layerName1 /…/ propertyNameN / layerNameN / parameterName”,在那里propertyName1layerName1对应的层在输入getLearnRateFactor函数,后面的部分对应更深的层次。

例子:为层输入getLearnRateFactor,路径“网络/ conv1 /重量”指定了“重量”带有名称的图层的参数“conv1”dlnetwork对象由层。网络

如果输入getLearnRateFactor是一个dlnetwork对象和所需参数在嵌套层中,则参数路径具有形式“layerName1 / propertyName / layerName / parameterName”,地点:

  • layerName1图层的名称是否在输入中dlnetwork对象

  • propertyName层的属性是否包含adlnetwork对象

  • layerName图层的名称是否在dlnetwork对象

  • parameterName参数的名称

如果有多层嵌套层,则使用表单指定每一层“layerName1 / propertyName1 /…/ layerNameN / propertyNameN / layerName / parameterName”,在那里layerName1propertyName1对应的层在输入getLearnRateFactor函数,后面的部分对应更深的层次。

例子:dlnetwork输入getLearnRateFactor,路径“res1 /网络/ conv1 /重量”指定了“重量”带有名称的图层的参数“conv1”dlnetwork对象由层。网络,在那里图层有名字吗“res1”在输入网络中dlnet

数据类型:字符|字符串

用于自定义训练循环的网络,指定为adlnetwork对象。

层名,指定为字符串标量或字符向量。

数据类型:字符|字符串

输出参数

全部折叠

参数的学习率因子,作为非负标量返回。

该软件将此因子乘以全局学习率,以确定指定参数的学习率。例如,如果因素为2,则指定参数的学习率是当前全局学习率的两倍。该软件根据指定的设置来确定全局学习率trainingOptions函数。

介绍了R2017b