ReLU 函数

播报讨论上传视频

函数

查看我的收藏

0有用+1

本词条由“科普中国”科学百科词条编写与应用工作项目审核。

线性整流函数（Linear rectification function），又称修正线性单元，是一种人工神经网络中常用的激活函数（activation function），通常指代以斜坡函数及其变种为代表的非线性函数。

中文名: 线性整流函数

外文名: Linear rectification function^[1]
领域: 人工智能

定义

播报

编辑

通常意义下，线性整流函数指代数学中的斜坡函数，担禁求永宙即

而在神经网络中，线性整流作为神经元的院旬激活函数，定义了该赠体驼神经元在线性变换

之承验垫趋充辩后的非线性输出结果。换言之，对于进入神经元的来自上一层神经网络的输入向量

，使用线性整流激活函数的神经元会输故邀禁出

至多户主酷下一层神经元或作为整个神经网络的输出（取决现神经元在网络结构中所处位置）。^[2]

变种

播报

编辑

线性整流函数在基于斜坡函数的基础上有其他同样被广泛应用于深度学习的变种，譬如带泄露线性整流(Leaky ReLU)，带泄露随机线性整流(Randomized Leaky ReLU)，以及噪声线性整流(Noisy ReLU)。

带泄露线性整流

在输入值

为负的时候，带泄露线性整流函数（Leaky ReLU）的梯度为一个常数

，而不是0。在输入值为正的时候，带泄露线性整流函数和普通斜坡函数保持一致。换言之，

在深度学习中，如果设定

为一个可通过反向传播算法（Backpropagation）学习的变量，那么带泄露线性整流又被称为参数线性整流（Parametric ReLU）。

带泄露随机线性整流

带泄露随机线性整流（Randomized Leaky ReLU,RReLU）最早是在Kaggle全美数据科学大赛（NDSB）中被首先提出并使用的。相比于普通带泄露线性整流函数，带泄露随机线性整流在负输入值段的函数梯度

是一个取自连续性均匀分布

概率模型的随机变量，即

其中

且

。

噪声线性整流

噪声线性整流（Noisy ReLU）是修正线性单元在考虑高斯噪声的基础上进行改进的变种激活函数。对于神经元的输入值

，噪声线性整流加上了一定程度的正态分布的不确定性，即

其中随机变量

。噪声线性整流函数在受限玻尔兹曼机（Restricted Boltzmann Machine）在计算机图形学的应用中取得了比较好的成果。^[3]

优势

播报

编辑

相比于传统的神经网络激活函数，诸如逻辑函数（Logistic sigmoid）和tanh等双曲函数，线性整流函数有着以下几方面的优势：

1.仿生物学原理：相关大脑方面的研究表明生物神经元的信息编码通常是比较分散及稀疏的。通常情况下，大脑中在同一时间大概只有1%-4%的神经元处于活跃状态。使用线性修正以及正则化（regularization）可以对机器神经网络中神经元的活跃度（即输出为正值）进行调试；相比之下，逻辑函数在输入为0时达到

，即已经是半饱和的稳定状态，不够符合实际生物学对模拟神经网络的期望。不过需要指出的是，一般情况下，在一个使用修正线性单元（即线性整流）的神经网络中大概有50%的神经元处于激活态。

2.更加有效率的梯度下降以及反向传播：避免了梯度爆炸和梯度消失问题

3.简化计算过程：没有了其他复杂激活函数中诸如指数函数的影响；同时活跃度的分散性使得神经网络整体计算成本下降。^[3]

新手上路

成长任务编辑入门编辑规则本人编辑

我有疑问

内容质疑在线客服官方贴吧意见反馈

投诉建议

举报不良信息未通过词条申诉投诉侵权信息封禁查询与解封

ReLU 函数

目录

定义

变种

优势