线性整流函数(Rectified Linear Unit)

应用整流线性单元激活

描述

整流线性单元(ReLU)激活操作执行非线性阈值操作,其中任何小于零的输入值都被设为零。

这个操作相当于

f x x x > 0 0 x 0.

请注意

这个函数应用了ReLU操作dlarray数据。如果你想应用ReLU激活layerGraph对象或数组,使用下面的图层:

例子

海底= relu (dlX计算输入的ReLU激活dlX通过应用阈值操作。中所有的值dlX小于0的就被设为0。

例子

全部折叠

使用线性整流函数(Rectified Linear Unit)函数将输入数据中的负值设置为零。

将输入数据创建为高度和宽度分别为12和32个通道的随机值的单个观察值。

身高= 12;宽度= 12;渠道= 32;观察= 1;X = randn(高度、宽度、通道观测);dlX = dlarray (X,“SSCB”);

计算泄漏的ReLU激活。

海底= relu (dlX);

所有的负数dlX现在设置为0

输入参数

全部折叠

输入数据,指定为dlarray有或没有尺寸标签。

数据类型:|

输出参数

全部折叠

ReLU激活,返回为dlarray.输出海底具有与输入相同的底层数据类型dlX

如果输入数据dlX是一个格式化的dlarray海底有相同的尺寸标签dlX.如果输入数据没有格式化dlarray海底是一个非格式化dlarray与输入数据的维度顺序相同。

扩展功能

介绍了R2019b