主要内容

深层网络设计师

设计、可视化和训练深度学习网络

描述

深层网络设计师应用程序允许您构建,可视化,编辑和培训深度学习网络。使用此应用程序,您可以:

  • 构建、导入、编辑和合并网络。

  • 加载预先训练的网络并编辑它们以进行迁移学习。

  • 查看和编辑层属性,并添加新的层和连接。

  • 对网络进行分析,确保网络架构定义正确,并在培训前发现问题。

  • 导入并可视化数据存储和图像数据,用于培训和验证。

  • 应用增强到图像分类培训数据,并可视化类标签的分发。

  • 用精度,损失和验证指标的绘图列车网络和监视器培训。

  • 将培训的网络导出到工作区或Simulink万博1manbetx®

  • MATLAB生成®网络建设和培训规范。

打开深度网络设计器应用程序

  • MATLAB TOOLSTRIP:在应用标签,下面机器学习和深度学习,单击应用程序图标。

  • MATLAB命令提示符:输入deepNetworkDesigner

例子

展开全部

在深网络设计师中检查一个简单的预净化图像分类网络。

打开应用程序,选择一个预先训练的网络。您也可以通过选择加载预先训练的网络设计师选项卡并单击.如果您需要下载网络,那么单击安装以打开附加组件资源管理器。

提示

首先,尝试选择一个速度较快的网络,如SqueezeNet或GoogLeNet。一旦你了解了哪些设置比较好,尝试一个更精确的网络,比如Inception-v3或ResNet,看看这是否能提高你的结果。有关选择预训练网络的更多信息,请参见预先训练的深度神经网络

显示可用网络的深网络设计师开始页面

设计师窗格,可视化并探索网络。有关可用的预训练网络列表以及如何比较它们,请参见预先训练的深度神经网络

深度网络设计器显示预先训练的网络

有关使用深层网络设计器构建网络的信息,请参见使用深网络设计师构建网络

在深网络设计师中编辑它来准备转移学习的网络。

迁移学习是将预先训练好的深度学习网络进行微调以学习新任务的过程。您可以使用少量的训练图像快速地将学习到的特征转移到新的任务中。因此,迁移学习通常比从头开始训练一个网络更快、更容易。要使用预先训练过的网络进行迁移学习,必须更改班级数以匹配新的数据集。

使用SqueezeNet打开深层网络设计器。

deepNetworkDesigner (squeezenet)

为准备迁移学习的网络,替换最后一个可学习层和最后一个分类层。对于SqueezeNet,最后一个可学习的层是一个2d卷积层,名为“conv10”

  • 拖动一个新的convolution2dLayer到画布上。设置FilterSize财产1, - 1NumFilters属性设置为新的类数量。

  • 改变学习速度,使学习在新层比在转移层更快,通过增加WeightLearnRateFactorBiaslearnratefactor.值。

  • 删除最后一个convolution2dLayer然后连接你的新图层。

    在深网络设计器中选择的卷积2-D层。过滤设置为1,1,NUMFilters设置为5。

提示

对于大多数预训练网络(例如GoogLeNet),最后一个可学习层是完全连接层。要为迁移学习准备网络,请使用新的完全连接层替换完全连接层,并设置OutputSize属性设置为新的类数量。例如,请参见开始与深层网络设计师

接下来,删除分类输出层。然后,拖动一个新的classificationLayer到画布上并连接它。输出层的默认设置意味着网络在培训期间了解类的数量。

在Deep Network Designer中选择分类层。OutputSize设置为自动。

通过点击来检查你的网络分析设计师选项卡。网络已经为训练做好了准备深度学习网络分析仪零错误报告。有关如何训练网络对新图像进行分类的示例,请参见用深网络设计师转移学习

为了帮助理解和编辑层属性,单击层名称旁边的帮助图标。

设计师窗格中,选择要查看和编辑属性的图层。点击图层名称旁边的帮助图标以获得关于图层属性的更多信息。

在深度网络设计器中选择跨通道标准化层

有关层属性的更多信息,请参见深度学习层名单

在Deep network Designer中将工作空间中的层添加到网络中。

在深度网络设计器中,您可以通过从图书馆库设计师窗格并连接它们。控件中的网络也可以从工作区中添加自定义层设计师窗格。假设您在变量中存储了一个自定义层myCustomLayer

  1. 点击设计师选项卡。

  2. 暂停上从工作空间然后点击进口

  3. 选择myCustomLayer然后点击好吧

  4. 点击添加

该应用程序将自定义图层添加到顶部设计师窗格。要查看新图层,请使用鼠标或单击缩放放大

连接myCustomLayer到网络中去设计师窗格。有关如何在深层网络设计器中使用自定义层构建网络的示例,请参见将自定义层导入深层网络设计器

你也可以在深度网络设计器中组合网络。例如,您可以通过将预先训练的网络与解码器子网络相结合来创建语义分割网络。

将数据导入深网络设计师进行培训。

你可以使用数据深度网络设计师的标签,用于导入培训和验证数据。深度网络设计器支持导入图像数据和数据存储对象万博1manbetx。选择基于任务类型的导入方法。

任务 数据类型 数据导入方法 可视化例子
图像分类

ImageDatastore对象,或包含每个类图像的子文件夹的文件夹。类标签来自子文件夹名。

选择导入数据>导入图像数据

导入图像数据对话框

您可以在“导入图像数据”对话框中选择增强选项并指定验证数据。有关更多信息,请参见导入数据到深度网络设计器

深度网络设计器的数据选项卡显示类标签的直方图和来自导入数据的随机图像的选择

其他扩展的工作流程(如数字特征输入、内存不足数据、图像处理以及音频和语音处理)

数据存储。

对于其他扩展工作流,请使用合适的数据存储对象。例如,AugmentedimageGedataStore.CombinedDatastorepixelLabelImageDatastore(计算机视觉工具箱),或自定义数据存储。

的数据存储对象可以导入和训练Trainnetwork.功能。有关构建和使用DataStore对象进行深度学习应用程序的详细信息,请参阅用于深度学习的数据存储

选择导入数据>导入数据存储

“导入数据存储”对话框

您可以在“导入数据存储”对话框中指定验证数据。有关更多信息,请参见导入数据到深度网络设计器

深度网络设计器的数据选项卡,显示数据存储中的前五个观察的预览

使用深度网络设计器训练深度神经网络。

使用深度网络设计器,您可以使用图像数据或任何数据存储对象训练网络Trainnetwork.功能。例如,您可以使用a培训语义分段网络或多输入网络CombinedDatastore目的。有关将数据导入深网络设计器的详细信息,请参阅导入数据到深度网络设计器

培训一个网络上的数据导入到深度网络设计师,在训练选项卡上,单击火车.该应用程序显示培训进度的动画曲线。该地块显示了迷你批量损失和准确性,验证损失和准确性以及有关培训进展的其他信息。绘图有一个停止按钮在右上角。点击按钮停止训练,返回网络当前状态。

深度网络设计师培训进度图

有关更多信息,请参见使用深网络设计师列车网络

如果您需要更好地控制培训,请单击培训方案选择培训设置。有关选择培训选项的更多信息,请参见trainingOptions

“训练选项”对话框

有关如何训练图像分类网络的示例,请参见用深网络设计师转移学习.有关展示如何训练序列到序列LSTM网络的示例,请参阅基于深度网络设计器的时间序列预测训练网络

要培训网络不支持的数据不支持的网络,请选择万博1manbetx设计师选项卡,并单击出口导出初始网络架构。然后,您可以通过编程方式训练网络,例如,使用自定义训练循环。

将在Deep network Designer中创建的网络架构导出到工作空间或Simulink中,并生成代码来重新创建网络和培训。万博1manbetx

  • 将网络架构与工作空间中的初始权重导出到设计师选项卡上,单击出口.根据网络架构,深度网络设计器导出网络作为一个LayerGraphlgraph或作为一个对象层数

  • 将网络培训的网络培训到工作区,在训练选项卡上,单击出口.深度网络设计器输出训练有素的网络架构作为DAGNetwork对象训练有素.深度网络设计师还将结果从培训导出,例如培训和验证准确性,作为结构阵列trainInfoStruct

  • 将在Deep network Designer中训练的网络输出到Simulink,上万博1manbetx训练选项卡上,单击出口>导出到Simulin万博1manbetxk..深度网络设计师将训练的网络作为MAT文件保存,并生成代表培训的网络的Simulink块。万博1manbetx生成的块取决于培训的网络类型。

    • 图像分类器-使用训练的深度学习神经网络对数据进行分类。

    • 预测-使用训练有素的深度学习神经网络预测响应。

    • 有状态的分类-使用训练有素的递归神经网络对数据进行分类。

    • 有状态预测-使用训练有素的递归神经网络预测反应。

要重新创建在Deep network Designer中构建和训练的网络,请生成MATLAB代码。

  • 重新创建网络层,在设计师选项卡,选择出口>生成代码

  • 重新创建网络层,包括任何可学习的参数设计师选项卡,选择出口>用初始参数生成代码

  • 重新创建网络,数据导入和培训,在训练选项卡,选择出口>生成培训代码

生成脚本后,可以执行以下任务。

  • 要重新创建在应用程序中创建的网络图层,请运行脚本。如果生成培训脚本,运行脚本还将复制网络培训。

  • 检查代码以了解如何以编程方式创建和连接图层,以及如何培训深网络。

  • 要修改层,请编辑代码。您还可以运行脚本,并将网络导入到应用程序中进行编辑。

有关更多信息,请参见生成MATLAB代码从深网络设计者

您还可以使用生成的脚本作为起始点,以创建深度学习实验,扫过一系列的超级计数器值或使用贝叶斯优化来查找最佳培训选项。出于展示如何使用的示例实验管理器要调优在深度网络设计器中训练过的网络的超参数,请参阅在深网络设计器中生成的适应代码用于实验管理器

相关的例子

编程使用

展开全部

deepNetworkDesigner打开深度网络设计器应用程序。如果深网络设计师已经开放,deepNetworkDesigner将焦点放在应用程序上。

DeepNetWorkDesigner(打开Deep Network Designer应用程序,将指定的网络加载到应用程序中。网络可以是系列网络、DAG网络、层图或层数组。

例如,使用预先训练过的SqueezeNet网络打开Deep Network Designer。

网= squeezenet;deepNetworkDesigner(净);

如果深网络设计师已经开放,deepNetworkDesigner(净)将注意力集中到应用程序上,并提示你添加或替换任何现有网络。

提示

要训练多个网络并比较结果,请尝试实验管理器

介绍了R2018b