主要内容

analyzeNetwork

分析深度学习网络架构

描述

使用analyzeNetwork为了可视化和理解网络的体系结构,请检查您是否正确定义了体系结构,并在培训之前发现问题。的问题,analyzeNetwork检测包括丢失或未连接的层,错误大小的层输入,错误数量的层输入和无效的图形结构。

提示

交互式地可视化、分析和训练网络,使用deepNetworkDesigner(净).有关更多信息,请参见深度网络设计器

训练网络

例子

analyzeNetwork (分析了SeriesNetworkDAGNetwork对象.该功能显示网络体系结构的交互式可视化,并提供有关网络层的详细信息。层信息包括层激活的数量和大小、可学习参数和状态参数。

网络层

例子

analyzeNetwork (中指定的网络层进行分析并且还可以检测错误和问题trainNetwork工作流。可以是数组或LayerGraph对象。该功能显示网络体系结构的交互式可视化,并提供有关网络层的详细信息。层信息包括层激活的数量和大小、可学习参数和状态参数。

例子

analyzeNetwork (“TargetUsage”,目标中指定的网络层进行分析用于指定的目标工作流。类时使用此语法数组或层的图形dlnetwork工作流。

analyzeNetwork (dlX1,…,dlXn“TargetUsage”,“dlnetwork”)使用示例网络输入分析网络层dlX1,…,dlXn.该软件通过网络传播示例输入,以确定层激活的数量和大小、可学习参数和状态参数。使用此语法可以分析具有一个或多个未连接到输入层的输入的网络。

dlnetwork对象

analyzeNetwork (dlnet分析了dlnetwork对象用于自定义训练循环工作流。该功能显示网络体系结构的交互式可视化,并提供有关网络层的详细信息。层信息包括层激活的数量和大小、可学习参数和状态参数。

analyzeNetwork (dlnetdlX1,…,dlXn分析了dlnetwork对象使用示例网络输入dlX1,…,dlXn.该软件通过网络传播示例输入,以确定层激活的数量和大小、可学习参数和状态参数。使用此语法分析未初始化的dlnetwork它具有一个或多个未连接到输入层的输入。

例子

全部折叠

加载一个预先训练好的GoogLeNet卷积神经网络。

网络= googlenet
net = DAGNetwork with properties: Layers: [144×1 nnet.cnn.layer.Layer] Connections: [170×2 table] InputNames: {'data'} OutputNames: {'output'}

分析网络。analyzeNetwork显示网络体系结构的交互式图形和包含有关网络层信息的表。

使用左边的图来研究网络架构。在图中选择一个图层。选中的图层在图和图层表中高亮显示。

在表格中,查看层属性、层类型、层激活大小和可学习参数等层信息。一个层的激活是该层的输出。

选择网络中较深的一层。请注意,更深层次的激活在空间维度(前两个维度)上较小,而在通道维度(最后一个维度)上较大。使用这种结构可以使卷积神经网络逐渐增加提取的图像特征的数量,同时降低空间分辨率。

通过点击图层表右上角的箭头并选择,显示每一层中可学习参数的总数总可学的.要按列值对层表进行排序,请将鼠标悬停在列标题上并单击出现的箭头。例如,通过根据可学习参数的总数对层进行排序,可以确定哪一层包含的参数最多。

analyzeNetwork(净)

创建一个具有快捷连接的简单卷积网络。将网络的主要分支创建为一个层数组,并从层数组创建一个层图。layerGraph连接所有的层按顺序。

图层= [imageInputLayer([32 32 3])卷积2dlayer (5,16,“填充”“相同”) reluLayer (“名字”“relu_1”) convolution2dLayer(3, 16岁,“填充”“相同”“步”,2) reluLayer附加层(2,“名字”“add1”) convolution2dLayer(3, 16岁,“填充”“相同”“步”,2) reluLayer附加层(3,“名字”“add2”) fullyConnectedLayer(10) softmaxLayer classificationLayer];lgraph = layerGraph(图层);

创建快捷连接。其中一个快捷连接包含单个1乘1卷积层skipConv

skipConv =卷积2dlayer (1,16,“步”2,“名字”“skipConv”);lgraph = addLayers(lgraph,skipConv);lgraph = connectLayers(“relu_1”“add1 / in2”);lgraph = connectLayers(“add1”“add2 / in2”);

分析网络结构。analyzeNetwork在网络中找到四个错误。

analyzeNetwork (lgraph)

调查并修复网络中的错误。在本例中,以下问题导致错误:

  • skipConv层未连接到网络的其余部分。它应该是连接部分之间的快捷方式add1而且add2层。要修复此错误,请连接add1skipConv而且skipConvadd2

  • add2层被指定有三个输入,但层只有两个输入。若要修复此错误,请将输入数量指定为2

  • 附加层的所有输入必须具有相同的大小,但是add1图层有两个不同大小的输入。因为conv_2图层有一个“步”值为2时,该层在前两个维度(空间维度)中对激活进行了两倍的下调采样。来调整输入的大小relu2层,使它与输入的大小相同relu1,通过设置“步”的值conv_2从层到1。

将这些修改应用于本示例开头的图层图构造,并创建一个新的图层图。

图层= [imageInputLayer([32 32 3])卷积2dlayer (5,16,“填充”“相同”) reluLayer (“名字”“relu_1”) convolution2dLayer(3, 16岁,“填充”“相同”“步”,1) reluLayer附加层(2)“名字”“add1”) convolution2dLayer(3, 16岁,“填充”“相同”“步”,2) reluLayer附加层(2,“名字”“add2”) fullyConnectedLayer(10) softmaxLayer classificationLayer];lgraph = layerGraph(图层);skipConv =卷积2dlayer (1,16,“步”2,“名字”“skipConv”);lgraph = addLayers(lgraph,skipConv);lgraph = connectLayers(“relu_1”“add1 / in2”);lgraph = connectLayers(“add1”“skipConv”);lgraph = connectLayers(“skipConv”“add2 / in2”);

分析新架构。新的网络不包含任何错误,可以进行训练。

analyzeNetwork (lgraph)

为自定义训练循环创建层图。对于自定义训练循环工作流,层图不能有输出层。

图层= [imageInputLayer([28 28 1],“归一化”“没有”“名字”“输入”)卷积2dlayer (5, 20,“名字”“conv1”) batchNormalizationLayer (“名字”“bn1”) reluLayer (“名字”“relu1”20岁的)convolution2dLayer (3“填充”,1,“名字”“conv2”) batchNormalizationLayer (“名字”“bn2”) reluLayer (“名字”“relu2”)卷积2dlayer (3, 20,“填充”, 1“名字”“conv3”) batchNormalizationLayer (“名字”“bn3”) reluLayer (“名字”“relu3”) fullyConnectedLayer (10“名字”“俱乐部”) softmaxLayer (“名字”“softmax”));lgraph = layerGraph(图层);

对层图进行分析analyzeNetwork函数,并设置“TargetUsage”选项“dlnetwork”

analyzeNetwork (lgraph“TargetUsage”“dlnetwork”

在这里,函数没有报告与层图有关的任何问题。

要分析具有未连接到输入层的输入的网络,可以向analyzeNetwork函数。您可以在分析时提供示例输入dlnetwork对象,或者当你分析时数组或LayerGraph对象用于自定义培训工作流“TargetUsage”、“dlnetwork”名称-值的选择。

定义网络架构。构造一个有两个分支的网络。网络有两个输入,每个分支有一个输入。使用附加层连接分支。

numFilters = 24;inputSize = [64 64 3];layersBranch1 = [imageInputLayer(inputSize,“归一化”“没有”“名字”“输入”) convolution2dLayer(3、6 * numFilters,“填充”“相同”“步”2,“名字”“conv1Branch1”) groupNormalizationLayer (所有渠道的“名字”“gn1Branch1”) reluLayer (“名字”“relu1Branch1”) convolution2dLayer (3 numFilters“填充”“相同”“名字”“conv2Branch1”) groupNormalizationLayer (“channel-wise”“名字”“gn2Branch1”) additionLayer (2“名字”“添加”) reluLayer (“名字”“reluCombined”) fullyConnectedLayer (10“名字”“俱乐部”) softmaxLayer (“名字”“sm”));layersBranch2 = [convolution2dLayer(1,numFilters,“名字”“convBranch2”) groupNormalizationLayer (所有渠道的“名字”“gnBranch2”));lgraph = layerGraph(layersBranch1);lgraph = addLayers(lgraph,layersBranch2);lgraph = connectLayers(“gnBranch2”“添加/ in2”);

创建dlnetwork.因为这个网络包含一个未连接的输入,所以创建一个未初始化的dlnetwork对象,通过设置“初始化”名称-值选项

Dlnet = dlnetwork(lgraph,“初始化”、假);

创建与该网络的典型输入相同大小和格式的示例网络输入。对于这两个输入,使用32的批处理大小。使用大小为64 * 64的输入,其中有三个通道用于该层的输入“输入”.使用大小为64 * 64的输入,其中有18个通道用于该层的输入“convBranch2”

exampleInput = dlarray(rand([inputSize 32]),“SSCB”);exampleeconvbranch2 = dlarray(rand([32 32 18 32]),“SSCB”);

检查属性,以确定提供示例输入的顺序。

dlnet。层
ans = 12×1带有图层的图层数组:1' input' Image input 64×64×3 images 2 'conv1Branch1' Convolution 144 3×3 convolutions with stride [2 2] and padding 'same' 3 'gn1Branch1' Group Normalization Group Normalization 4 'relu1Branch1' ReLU ReLU 5 'conv2Branch1' Convolution 24 3×3 convolutions with stride [1 1] and padding 'same' 6 'gn2Branch1' Group Normalization Group Normalization 7 'add' Addition元素添加2个输入8 'reluCombined' ReLU ReLU 9 'fc' Fully Connected 10 Fully Connected layer 10 'sm' Softmax Softmax 11'convBranch2' Convolution 24 1×1卷积与stride[1 1]和padding [0 0 0 0] 12 'gnBranch2'组归一化组归一化

分析网络。类中需要输入的层以相同的顺序提供示例输入的属性dlnetwork.您必须为所有网络输入提供一个示例输入,包括连接到输入层的输入。

analyzeNetwork (dlnet exampleInput exampleConvBranch2)

输入参数

全部折叠

训练过的网络,指定为SeriesNetwork或者一个DAGNetwork对象。可以通过导入预训练的网络(例如,通过使用googlenet函数)或通过训练自己的网络使用trainNetwork

网络层,指定为a数组或LayerGraph对象。

有关内置层的列表,请参见深度学习层列表

用于自定义训练循环的网络,指定为dlnetwork对象。

目标工作流,指定为以下之一:

  • “trainNetwork”-分析层图使用trainNetwork函数。例如,该函数检查层图是否有输出层,而没有断开连接的层输出。

  • “dlnetwork”-分析层图使用dlnetwork对象。例如,该函数检查层图是否有任何输出层。

示例网络输入,指定为格式化dlarray对象。该软件通过网络传播示例输入,以确定层激活的数量和大小、可学习参数和状态参数。

当您想要分析具有未连接到输入层的输入的网络时,请使用示例输入。

您必须指定示例输入的顺序取决于您正在分析的网络类型:

  • 数组中需要输入的层以相同的顺序提供示例输入数组中。

  • LayerGraph中需要输入的层以相同的顺序提供示例输入的属性LayerGraph

  • dlnetwork—输入样例的顺序与InputNames的属性dlnetwork

如果一个层有多个不连接的输入,那么该层的示例输入必须按照它们在该层中出现的相同顺序单独指定InputNames财产。

必须为网络的每个输入指定一个示例输入,即使该输入连接到输入层。

在R2018a中引入