激活函数输出范围限制:平稳梯度回传,优化神经网络训练
限制激活函数输出范围可以使'梯度回传'更加平稳,从而有助于神经网络的训练和网络参数的调整。当激活函数的输出范围受到限制时,'梯度回传'会更加平稳,有利于神经网络训练和网络参数调节。
原文地址: https://www.cveoy.top/t/topic/mNBL 著作权归作者所有。请勿转载和采集!
安全问答是一个知识全球问答,包含丰富的问答知识
限制激活函数输出范围可以使'梯度回传'更加平稳,从而有助于神经网络的训练和网络参数的调整。当激活函数的输出范围受到限制时,'梯度回传'会更加平稳,有利于神经网络训练和网络参数调节。
原文地址: https://www.cveoy.top/t/topic/mNBL 著作权归作者所有。请勿转载和采集!