minibatchqueue
为深度学习创建小批量
描述
使用一个minibatchqueue对象使用自定义训练循环创建、预处理和管理用于训练的小批数据。
一个minibatchqueue对象在数据存储上迭代，以提供适合使用自定义训练循环进行训练的格式的数据。对象准备一个按需预处理的小批队列。使用一个minibatchqueue对象自动将数据转换为dlarray或gpuArray，将数据转换为不同的精度，或应用自定义函数预处理数据。您可以在后台并行地准备数据。
在培训期间，可以使用minibatchqueue对象。方法可以在每个训练纪元开始时对数据进行洗牌洗牌函数，并为每次训练迭代从队列中收集数据下一个函数。方法可以检查队列中是否还有任何数据hasdata功能,重置队列为空时的。
创建
描述
兆贝可= minibatchqueue (ds，numOutputs）minibatchqueue对象从输入数据存储中获取ds并设置每个小批处理中的变量数量。使用时使用此语法MiniBatchFcn指定一个小批预处理函数，该函数的输出数量与输入数据存储的变量数量不同ds．
兆贝可= minibatchqueue (___、名称、值)minibatchqueue (ds,“MiniBatchSize ", 64年,“PartialMiniBatches”、“丢弃”)将返回的小批的大小设置为64，并丢弃任何小于64个观测值的小批。
输入参数
属性
对象的功能
例子
为定制培训循环准备小批量
使用一个minibatchqueue对象自动为自定义训练循环中的训练准备小批量图像和分类标签。
创建数据存储。调用读在auimds生成一个包含两个变量的表:输入，包含图像数据，和响应，内载相应的分类标签。
auimds = augmentedImageDatastore([100 100]，digitDatastore);A = read(auimds);头(2)
ans =输入的响应 _______________ ________ { 100×100 uint8}{100×100 uint8} 0
创建一个minibatchqueue对象从auimds．设置MiniBatchSize财产256．
的minibatchqueue对象的两个输出变量:图像和分类标签输入而且响应的变量auimds,分别。设置minibatchqueue对象将图像返回为格式化的dlarrayGPU。这些图像是单通道黑白图像。通过应用该格式添加单通道维度“SSBC”到批次。将标签返回为非dlarray在CPU上。
MBQ = minibatchqueue(auimds，.．.“MiniBatchSize”, 256,.．.“OutputAsDlarray”(1,0),.．.“MiniBatchFormat”, {“SSBC”，”}，.．.“OutputEnvironment”, {“图形”，“cpu”})
使用下一个用于从中获取小批量的函数兆贝可．
[X,Y] = next(mbq);
使用自定义预处理函数创建小批量
对数据进行预处理minibatchqueue具有自定义小批量预处理功能。自定义函数在0到1之间重新调整传入图像数据的大小，并计算平均图像。
解压缩数据并创建一个数据存储。
解压缩(“MerchData.zip”）;imds = imageDatastore(“MerchData”，.．.“IncludeSubfolders”,真的,.．.“LabelSource”，“foldernames”）;
创建一个minibatchqueue它使用自定义函数对数据进行预处理preprocessMiniBatch在本例结束时定义。自定义函数将图像数据连接到一个数值数组中，在0到1之间重新缩放图像，并计算这批图像的平均值。该函数返回重新缩放的图像批和平均图像。设置输出数为2，以匹配函数的输出数。
MBQ = minibatchqueue(imds,2，.．.“MiniBatchSize”, 16岁,.．.“MiniBatchFcn”@preprocessMiniBatch,.．.“OutputAsDlarray”, 0)
mbq = minibatchqueue，有2个输出和属性:迷你批量创建:MiniBatchSize: 16 PartialMiniBatch: 'return' MiniBatchFcn: @preprocessMiniBatch DispatchInBackground: 0 outputs: OutputCast: {'single' 'single'} OutputAsDlarray: [0 0] MiniBatchFormat: {'' ''} OutputEnvironment: {'auto' 'auto'}
获取一个迷你批并显示迷你批中图像的平均值。
[X,averageImage] = next(mbq);imshow (averageImage)
函数[X,averageImage] = preprocessMiniBatch(XCell) X = cat(4,XCell{:});X = rescale(X，“InputMin”0,“InputMax”, 255);averageImage = mean(X,4);结束
使用minibatchqueue自定义培训循环
使用minibatchqueue管理小批量的加工。
负荷训练数据
加载数字训练数据，并将数据存储在数据存储中。为使用的图像和标签创建一个数据存储arrayDatastore．然后，将这些数据存储组合在一起，生成一个单独的数据存储minibatchqueue．
[XTrain,YTrain] = digitTrain4DArrayData;dsX = arrayDatastore(XTrain,IterationDimension=4);dsY = arrayDatastore(YTrain);dsTrain = combine(dsX,dsY);
确定标签数据中唯一类的数量。
类=类别(YTrain);numClasses = nummel(类);
定义网络
属性定义网络并指定平均图像值的意思是选项在图像输入层。
layers = [imageInputLayer([28 28 1]，Mean= Mean (XTrain,4)) convolution2dLayer(5,20) reluLayer convolution2dLayer(3,20,Padding=1) reluLayer convolution2dLayer(3,20,Padding=1) reluLayer fullyConnectedLayer(numClasses) softmaxLayer];lgraph = layerGraph(图层);
创建一个dlnetwork对象从图层图。
Net = dlnetwork(lgraph);
定义模型损失函数
创建helper函数modelLoss，在示例的末尾列出。该函数以a作为输入dlnetwork对象网和一小批输入数据X有相应的标签Y，并返回损失以及损失相对于中可学习参数的梯度网．
指定培训项目
指定在培训期间使用的选项。
numEpochs = 10;miniBatchSize = 128;
将训练过程可视化。
情节=“训练进步”；
创建minibatchqueue
使用minibatchqueue处理和管理小批量的图像。对于每个小批量:
丢弃部分小批量。
使用自定义小批量预处理功能
preprocessMiniBatch(在本例末尾定义)来对类标签进行一次性编码。用尺寸标签格式化图像数据
“SSCB”(空间，空间，通道，批次)。默认情况下，minibatchqueue对象将数据转换为dlarray具有基础数据类型的对象单．不要向类标签添加格式。如果有GPU，可以在GPU上进行训练。默认情况下，
minibatchqueue对象将每个输出转换为gpuArray如果GPU可用。使用GPU需要并行计算工具箱™和受支持的GPU设备。万博1manbetx有关受支持设备的信息，请参见万博1manbetxGPU支万博1manbetx持版本(并行计算工具箱)．
mbq = minibatchqueue(dsTrain，.．.MiniBatchSize = MiniBatchSize,.．.PartialMiniBatch =“丢弃”，.．.MiniBatchFcn = @preprocessMiniBatch,.．.MiniBatchFormat = [“SSCB”，＂＂]);
列车网络的
使用自定义训练循环训练模型。中的数据仍然可用时，对数据进行洗牌并在小批上进行循环minibatchqueue．方法更新网络参数adamupdate函数。在每个纪元结束时，显示训练进度。
初始化培训进度图。
如果情节= =“训练进步”figure lineLossTrain = animatedline(Color=[0.85 0.325 0.098]);Ylim ([0 inf]) xlabel(“迭代”) ylabel (“损失”网格)在结束
初始化平均梯度和平均梯度的平方。
averageGrad = [];averageSqGrad = [];
培训网络。
迭代= 0;开始= tic;为epoch = 1:numEpochs% Shuffle数据。洗牌(兆贝可);而Hasdata (mbq)迭代=迭代+ 1;读取小批数据。[X,Y] = next(mbq);计算模型损失和梯度使用dlfeval和帮助函数。[loss,grad] = dlfeval(@modelLoss,net,X,Y);使用Adam优化器更新网络参数。。[net,averageGrad,averageSqGrad] = adamupdate(net,grad,averageGrad,averageSqGrad,iteration);%显示培训进度。如果情节= =“训练进步”D = duration(0,0,toc(start)，Format=“hh: mm: ss”）;addpoints (lineLossTrain、迭代、双(损失))标题(”时代:“+ epoch +，消失:"+字符串(D))现在绘制结束结束结束
模型损失函数
的modelLossHelper函数接受输入adlnetwork对象网和一小批输入数据X有相应的标签Y，并返回损失以及损失相对于中可学习参数的梯度网．要自动计算梯度，请使用dlgradient函数。
函数[loss,gradients] = modelLoss(net,X,Y) YPred = forward(net,X);loss = crossentropy(YPred,Y);gradients = dlgradient(loss,net.Learnables);结束
小批量预处理功能
的preprocessMiniBatch函数按照以下步骤对数据进行预处理:
从传入单元格数组中提取图像数据，并将数据连接到数值数组中。将图像数据连接到第四个维度将为每个图像添加第三个维度，用作单通道维度。
从传入的单元格数组中提取标签数据，并沿着第二维连接到一个分类数组中。
One-hot将分类标签编码为数字数组。编码到第一个维度会产生一个与网络输出形状匹配的编码数组。
函数[X,Y] = preprocessMiniBatch(XCell,YCell)从单元格数组中提取图像数据并连接到第四个单元维度来添加第三个单例维度，作为通道%的维度。X = cat(4,XCell{:});从单元格和级联中提取标签数据。Y = cat(2,YCell{:});单热编码标签。Y = onehotencode(Y,1);结束
版本历史
您也可以从以下列表中选择一个网站: