激活函数之sigmoid激活
激活函数(activation function)：我们知道在多层的神经网络中，上一层的神经元(neuron)信号，即线性单元wx+b算出的结果，要输入到下一层，但是这个信号在输入到下一层之前需要一次激活f = sigmoid(wx+b)，或f = ReLU(wx+b)。我们需要选择一些信号在下一层的神经元激活。如何表示激活呢？就是当激活函数的输出结果是0，就代表抑制，是1，就代表激活。因为按照下一层的线性单元wx+b的计算来看，如果x接近于0，那么就会阻止x对应的权重w起作用，如果接近1，这个权重w的作用会最大，这就是激活的含义。
如有侵权请及时联系我们处理，转载请注明出处来自
推荐文章
科技快看 广州壹创集信息科技有限公司 版权所有 粤ICP备2021122624号
