亚当优化训练选项
Adam(自适应矩估计)优化器的训练选项,包括学习率信息,L2正则化因子和小批量尺寸。
创建一个TrainingOptionsADAM
对象使用trainingOptions
并指定“亚当”
随着solverName
输入参数。
情节
- - - - - -在网络训练期间显示的图“没有”
|“训练进步”
网络训练过程中显示的图,指定为:
“没有”
-在训练期间不要显示情节。
“训练进步”
-规划培训进度。该图显示了小批损失和准确性,验证损失和准确性,以及培训进展的附加信息。这个情节有一个停止按钮在右上角。点击按钮停止训练,返回网络当前状态。
详细的
- - - - - -显示培训进度信息的指标1
(真正的)(默认)|0
(假)在命令窗口显示训练进度信息的指示符,指定为1
(真正的)或0
(假)。
verbose输出显示如下信息:
网络的分类
场 | 描述 |
---|---|
时代 |
时代的数字。epoch对应于数据的一次完整传递。 |
迭代 |
迭代数。迭代对应于小批处理。 |
时间 |
时间以小时、分钟和秒为单位流逝。 |
Mini-batch准确性 |
在小批量上的分类精度。 |
验证准确性 |
对验证数据的分类精度。如果不指定验证数据,则该函数不会显示该字段。 |
Mini-batch损失 |
迷你批处理上的损失。如果输出层是ClassificationOutputLayer 对象,则该损失为类间互斥的多类分类问题的交叉熵损失。 |
确认损失 |
验证数据的丢失。如果输出层是ClassificationOutputLayer 对象,则该损失为类间互斥的多类分类问题的交叉熵损失。如果不指定验证数据,则该函数不会显示该字段。 |
基础学习速率 |
基础学习速率。软件将各层的学习速率因子乘以这个值。 |
回归网络
场 | 描述 |
---|---|
时代 |
时代的数字。epoch对应于数据的一次完整传递。 |
迭代 |
迭代数。迭代对应于小批处理。 |
时间 |
时间以小时、分钟和秒为单位流逝。 |
Mini-batch RMSE |
迷你批处理的均方根误差(RMSE)。 |
验证RMSE |
验证数据的RMSE。如果不指定验证数据,则软件不会显示此字段。 |
Mini-batch损失 |
迷你批处理上的损失。如果输出层是RegressionOutputLayer 对象,则损失为一半均方误差。 |
确认损失 |
验证数据的丢失。如果输出层是RegressionOutputLayer 对象,则损失为一半均方误差。如果不指定验证数据,则软件不会显示此字段。 |
基础学习速率 |
基础学习速率。软件将各层的学习速率因子乘以这个值。 |
当训练停止时,详细输出显示停止的原因。
要指定验证数据,请使用ValidationData
培训的选择。
数据类型:逻辑
VerboseFrequency
- - - - - -详细打印频率详细打印的频率,即在打印到命令窗口之间的迭代次数,指定为正整数。此属性仅在详细的
值=真正的
.
如果你在训练期间验证网络,那么trainNetwork
每次验证发生时打印到命令窗口。
MaxEpochs
- - - - - -最大纪元数用于训练的最大纪元数,指定为正整数。
迭代是梯度下降算法中使用小批量最小化损失函数的一步。epoch是训练算法在整个训练集上的完整通过。
MiniBatchSize
- - - - - -mini-batch大小用于每个训练迭代的小批处理的大小,指定为正整数。小批量是训练集的子集,用于评估损失函数的梯度和更新权值。
洗牌
- - - - - -数据变换选项“一次”
|“永远”
|“every-epoch”
数据变换选项,指定为以下选项之一:
“一次”
—在训练前洗牌一次训练和验证数据。
“永远”
—禁止shuffle数据。
“every-epoch”
—在每个训练阶段之前洗牌训练数据,在每个网络验证之前洗牌验证数据。如果小批量大小不能均匀地除以训练样本的数量,那么trainNetwork
丢弃不适合每个纪元的最终完整小批的训练数据。设置洗牌
价值“every-epoch”
避免在每个epoch中丢弃相同的数据。
ValidationData
- - - - - -用于培训期间验证的数据用于培训期间验证的数据,指定为包含验证预测器和响应的数据存储、表或单元阵列。
控件支持的相同格式可以指定验证预测器和响应万博1manbetxtrainNetwork
函数。可以将验证数据指定为数据存储、表或单元格数组}{预测,反应
,在那里预测
包含验证预测器和反应
包含验证响应。
有关更多信息,请参见图片
,序列
,特性
的输入参数trainNetwork
函数。
在培训期间,trainNetwork
计算验证数据的验证精度和验证损失。要指定验证频率,请使用ValidationFrequency
培训的选择。您还可以使用验证数据在验证损失停止减少时自动停止训练。要启用自动验证停止,请使用ValidationPatience
培训的选择。
如果网络的层在预测期间的行为与训练期间的行为不同(例如,退出层),那么验证的准确性可以高于训练(小批量)的准确性。
将验证数据按照洗牌
培训的选择。如果洗牌
是“every-epoch”
,然后在每次网络验证之前对验证数据进行洗牌。
ValidationFrequency
- - - - - -网络验证频率以迭代次数表示的网络验证频率,指定为正整数。
的ValidationFrequency
值是验证度量的评估之间的迭代次数。
ValidationPatience
- - - - - -停止验证的耐心正
(默认)|正整数网络训练的验证停止的耐心,指定为正整数或正
.
ValidationPatience
指定在网络训练停止之前,验证集上的损失可能大于或等于先前最小损失的次数。如果ValidationPatience
是正
,则验证损失的值不会导致培训提前停止。
返回网络取决于OutputNetwork
培训的选择。要返回验证损失最小的网络,请设置OutputNetwork
培训选项“best-validation-loss”
.
OutputNetwork
- - - - - -培训完成时网络返回最后一次迭代的
(默认)|“best-validation-loss”
网络培训完成后返回,指定如下:
最后一次迭代的
—返回上次训练迭代对应的网络。
“best-validation-loss”
—返回验证损失最小的训练迭代对应的网络。要使用此选项,必须指定“ValidationData”
.
InitialLearnRate
- - - - - -最初的学习速率用于训练的初始学习率,指定为正标量。如果学习率太低,那么培训需要很长时间。如果学习率过高,那么训练就会达到次优结果。
LearnRateScheduleSettings
- - - - - -学习速率计划的设置学习率计划的设置,指定为一个结构。LearnRateScheduleSettings
有场方法
,指定调整学习率的方法类型。可能的方法有:
“没有”
-在整个训练过程中,学习率是恒定的。
“分段”
—在训练过程中,学习率周期性下降。
如果方法
是“分段”
,然后LearnRateScheduleSettings
包含另外两个字段:
DropRateFactor
-训练过程中学习率下降的乘数
DropPeriod
-在训练过程中,从调整到学习速率之间的周期数
使用指定学习计划速率的设置trainingOptions
.
数据类型:结构体
L2Regularization
- - - - - -L因素2规范L因素2正则化器(权值衰减),指定为非负标量。
你可以为L指定一个乘数2具有可学习参数的网络层正则化器。
GradientDecayFactor
- - - - - -梯度移动平均的衰减率梯度移动平均的衰减率,指定为从0到1的标量。有关不同求解器的更多信息,请参见随机梯度下降法.
SquaredGradientDecayFactor
- - - - - -平方梯度移动平均的衰减率平方梯度移动平均的衰减率,指定为从0到1的标量。有关不同求解器的更多信息,请参见随机梯度下降法.
ε
- - - - - -分母抵消分母偏移量,指定为正标量。求解器将偏移量加到网络参数更新中的分母上,以避免被零除。
ResetInputNormalization
- - - - - -选项重置输入层标准化真正的
(默认)|假
选项重置输入层归一化,指定为以下之一:
真正的
-重置输入层归一化统计并在训练时重新计算。
假
-当训练时间为空时,计算归一化统计信息。
BatchNormalizationStatistics
- - - - - -在批处理归一化层中评估统计信息的模式“人口”
(默认)|“移动”
批处理归一化层统计的评估方式,指定为:
“人口”
—使用人口统计。在训练结束后,软件将训练数据再次遍历,并使用得到的平均值和方差来完成统计。
“移动”
-使用更新步骤给出的运行估计估计训练期间的统计数据
在哪里 和 分别表示更新后的平均值和方差, 和 分别表示均值衰减值和方差衰减值, 和 分别表示层输入的均值和方差,和 和 分别表示移动平均值和方差值的最新值。训练后,软件使用最新的移动均值和方差统计值。此选项仅支持CPU和单G万博1manbetxPU培训。
GradientThreshold
- - - - - -梯度阈值正
梯度的正阈值,指定为正标量或正
.当梯度值超过GradientThreshold
,然后根据渐变进行裁剪GradientThresholdMethod
.
GradientThresholdMethod
- - - - - -梯度阈值方法“l2norm”
|“global-l2norm”
|“absolutevalue”
梯度阈值方法,用于裁剪超过梯度阈值的梯度值,具体如下:
“l2norm”
-如果L2可学习参数的梯度范数大于GradientThreshold
,然后缩放梯度,使L2规范=GradientThreshold
.
“global-l2norm”
—全局L2规范,l,比GradientThreshold
,然后将所有梯度按……的倍数缩放GradientThreshold /
l.全球L2Norm考虑了所有可学习的参数。
“绝对值”
—可学习参数梯度中单个偏导数的绝对值大于GradientThreshold
,然后缩放偏导数,使其大小等于GradientThreshold
保留偏导数的符号。
有关更多信息,请参见梯度剪裁.
SequenceLength
- - - - - -选择填充或截断序列“最长”
|“最短”
|正整数填充、截断或拆分输入序列的选项,指定为以下之一:
“最长”
—在每个小批量中填充序列,使其与最长序列具有相同的长度。这个选项不会丢弃任何数据,尽管填充会给网络带来噪声。
“最短”
-截断每个小批中的序列,使其长度与最短序列相同。这个选项确保不添加任何填充,代价是丢弃数据。
正整数—对于每个小批量,将序列填充到指定长度的最近倍数,该倍数大于最小批量中序列的最长长度,然后将序列分割成指定长度的更小的序列。如果发生分裂,则软件创建额外的小批量。如果完整序列无法装入内存,则使用此选项。或者,尝试通过设置来减少每个小批量的序列数量“MiniBatchSize”
选择较低的值。
要了解更多关于填充、截断和分割输入序列的效果,请参见序列填充、截断和分割.
SequencePaddingDirection
- - - - - -填充或截断的方向“对”
(默认)|“左”
填充或截断的方向,指定为下列任一种:
“对”
—在右侧填充或截断序列。序列在同一时间步开始,软件截断或添加填充到序列的结束。
“左”
-在左侧填充或截断序列。该软件截断或添加填充到序列的开始,以便序列在同一时间步结束。
因为LSTM层处理序列数据的时间一步一次,当层OutputMode
属性是“最后一次”
,最后时间步骤中的任何填充都会对层输出产生负面影响。要在左侧填充或截断序列数据,请设置“SequencePaddingDirection”
选项“左”
.
对于序列到序列网络(当OutputMode
属性是“序列”
对于每个LSTM层),第一个时间步骤中的任何填充都会对较早时间步骤的预测产生负面影响。要在右侧填充或截断序列数据,请设置“SequencePaddingDirection”
选项“对”
.
要了解更多关于填充、截断和分割输入序列的效果,请参见序列填充、截断和分割.
SequencePaddingValue
- - - - - -值到填充序列值,用来填充作为标量指定的输入序列。该选项仅在以下情况下有效SequenceLength
是“最长”
或者一个正整数。不要用南
,因为这样做会在整个网络中传播错误。
ExecutionEnvironment
- - - - - -培训网络硬件资源“汽车”
|“cpu”
|“图形”
|“multi-gpu”
|“平行”
培训网络硬件资源,指定为以下之一:
“汽车”
—如果有图形处理器,请使用图形处理器。否则,请使用CPU。
“cpu”
—使用CPU。
“图形”
—使用GPU。
“multi-gpu”
-在一台机器上使用多个gpu,基于默认集群配置文件使用本地并行池。如果当前没有并行池,软件会启动一个并行池,池的大小等于可用gpu的数量。
“平行”
-根据默认集群配置文件使用本地或远程并行池。如果当前没有并行池,软件将使用默认的集群配置文件启动一个并行池。如果池可以访问GPU,那么只有拥有唯一GPU的工作者才能进行训练计算。如果池没有gpu,则在所有可用的CPU worker上进行培训。
有关何时使用不同执行环境的更多信息,请参见在gpu和云上并行扩展深度学习.
“图形”
,“multi-gpu”
,“平行”
选项需要并行计算工具箱™。要使用GPU进行深度学习,您还必须有支持的GPU设备。万博1manbetx有关支持的设备的信息,请参见万博1manbetxGPU支万博1manbetx持情况(并行计算工具箱).如果您选择了这些选项之一,但并行计算工具箱或合适的GPU不可用,则软件返回错误。
想要看到并行训练时的表现改善,试着扩大MiniBatchSize
和InitialLearnRate
培训选项的图形处理器的数量。
训练长短期记忆网络仅支持单CPU或单GPU训练。万博1manbetx
指定使用的执行环境trainingOptions
.
数据类型:字符
|字符串
WorkerLoad
- - - - - -并行工作负载划分gpu或cpu的工作负载划分,指定为从0到1的标量、正整数或数字向量。此属性仅在ExecutionEnvironment
值=“multi-gpu”
或“平行”
.
CheckpointPath
- - - - - -保存检查点网络的路径保存检查点网络的路径,指定为字符向量。
数据类型:字符
OutputFcn
- - - - - -输出函数在训练期间要调用的输出函数,指定为函数句柄或函数句柄的单元数组。trainNetwork
在训练开始之前、每次迭代之后以及训练结束之后调用指定的函数一次。trainNetwork
传递一个包含以下字段信息的结构:
场 | 描述 |
---|---|
时代 |
当前时代数量 |
迭代 |
当前迭代次数 |
TimeSinceStart |
训练开始后的时间,以秒为单位 |
TrainingLoss |
当前mini-batch损失 |
ValidationLoss |
验证数据的丢失 |
BaseLearnRate |
当前基础学习率 |
TrainingAccuracy |
当前小批量的准确性(分类网络) |
TrainingRMSE |
当前小批处理(回归网络)上的RMSE |
ValidationAccuracy |
验证数据的准确性(分类网络) |
ValidationRMSE |
验证数据的RMSE(回归网络) |
状态 |
当前训练状态,可能值为“开始” ,“迭代” ,或“完成” . |
如果某个字段对输出函数的某个调用不计算或不相关,则该字段包含一个空数组。
您可以使用输出函数来显示或绘制进度信息,或停止培训。尽早停止训练,让你的输出功能回归真正的
.如果有输出函数返回真正的
,然后训练结束trainNetwork
返回最新的网络。有关如何使用输出函数的示例,请参见自定义深度学习网络训练输出.
数据类型:function_handle
|细胞
使用亚当优化器创建一组用于训练神经网络的选项。将训练的最大纪元数设置为20,并在每次迭代中使用包含64个观察值的小批处理。指定梯度的平方移动平均的学习率和衰减率。打开训练进度图。
选择= trainingOptions (“亚当”,...“InitialLearnRate”3的军医,...“SquaredGradientDecayFactor”, 0.99,...“MaxEpochs”, 20岁,...“MiniBatchSize”, 64,...“阴谋”,“训练进步”)
options = TrainingOptionsADAM with properties: GradientDecayFactor: 0.9000 SquaredGradientDecayFactor: 0.9900 Epsilon: 1.0000e-08 InitialLearnRate: 3.0000e-04 learnratesschedule: 'none' LearnRateDropFactor: 0.1000 LearnRateDropPeriod: 10 L2Regularization: 1.0000e-04 GradientThresholdMethod: 'l2norm' GradientThreshold: Inf MaxEpochs:20 MiniBatchSize: 64详细:1 VerboseFrequency: 50 ValidationData: [] ValidationFrequency: 50 ValidationPatience:正洗牌:“一旦”CheckpointPath:“ExecutionEnvironment:‘汽车’WorkerLoad: [] OutputFcn:[]阴谋:“训练进步”SequenceLength:“最长”SequencePaddingValue: 0 SequencePaddingDirection:“对”DispatchInBackground:0 ResetInputNormalization: 1 BatchNormalizationStatistics: 'population'输出网络:'last-iteration'
[1]金玛,迪德里克和吉米·巴。"亚当:随机优化的方法"arXiv预印本arXiv: 1412.6980(2014).
你点击一个链接对应于这个MATLAB命令:
通过在MATLAB命令窗口中输入命令来运行命令。Web浏览器不支持MATLAB命令。万博1manbetx
你也可以从以下列表中选择一个网站:
选择中国网站(中文或英文)以获得最佳网站性能。其他MathWorks国家站点没有针对您所在位置的访问进行优化。