通过屏蔽输入来解释网络预测
计算所指定的类的分类分数的变化的地图scoreMap
= occlusionsentivity(净
那X
那标签
)标签
当部分输入数据X
用面具遮挡。分类评分的变化相对于没有遮挡的原始数据。遮挡的遮罩在输入数据之间移动,为每个遮罩位置提供一个分类评分变化。使用遮挡图来识别输入数据中对分类评分影响最大的部分。地图中正数值较高的区域对应于输入数据中对指定分类标签有正贡献的区域。网络必须包含一个softmaxlayer.
其次是A.classificationLayer
。
计算指定层和通道在部分输入数据时的总激活变化的映射ActivationMap.
= occlusionsentivity(净
那X
那层
那渠道
)X
用面具遮挡。激活评分的变化相对于没有遮挡的原始数据。图中具有较高正值的区域对应于输入数据区域,这些区域对指定的通道激活有正贡献,通过对该通道的所有空间维度进行求和获得。
___= occlusionsentivity(___那
除了前面语法中的输入参数外,还使用一个或多个名称-值对参数指定选项。例如,名称,价值
)“步”,50岁
将遮挡掩模的步幅设置为50像素。