剪切整流线性单元(Relu)层
剪切的Relu层执行阈值操作,其中小于零的任何输入值被设置为零,并且在上方的任何值
此操作相当于:
此剪切可防止输出变得太大。
返回带有剪切天花板的剪切Relu层等于层
天花板
天花板
设置可选层
天花板
名称
名称
[1] Hannun,AWNI,Carl案例,Jared Casper,Bryan Catanzaro,Greg Diamos,Erich Elsen,Ryan Prenger等。“深刻的演讲:扩展端到端的语音识别。”预印刷,2014年12月17日提交.thtp://arxiv.org/abs/1412.5567