消失梯度双边区域数值饱和x很大或很小导致随着x变化带来的y变化很小导数趋于零容易造成模型求解梯度消失问题。这可能导致网络求解过程中拒绝进一步学习或者太慢而无法获得准确的预测。换个说法

，当输入数据的值过大或过小时，神经网络的激活函数可能会导致输出值饱和，导致导数趋近于零，从而使得梯度消失，难以进行有效的反向传播学习，进而影响模型的准确性和学习效率。

原文地址: http://www.cveoy.top/t/topic/d82z 著作权归作者所有。请勿转载和采集!