深度学习激活函数:tanh优于sigmoid的原因
使用tanh的原因是因为它的输出范围是[-1,1],而sigmoid的输出范围是[0,1]。tanh的输出具有更大的幅度,这对于一些深度学习模型的训练来说是有优势的。此外,tanh在输入为负数时的导数和sigmoid相比更大,这可以加快梯度下降算法的收敛速度。因此,在一些情况下,使用tanh比sigmoid更好。
原文地址: https://www.cveoy.top/t/topic/mAEu 著作权归作者所有。请勿转载和采集!
安全问答是一个知识全球问答,包含丰富的问答知识
使用tanh的原因是因为它的输出范围是[-1,1],而sigmoid的输出范围是[0,1]。tanh的输出具有更大的幅度,这对于一些深度学习模型的训练来说是有优势的。此外,tanh在输入为负数时的导数和sigmoid相比更大,这可以加快梯度下降算法的收敛速度。因此,在一些情况下,使用tanh比sigmoid更好。
原文地址: https://www.cveoy.top/t/topic/mAEu 著作权归作者所有。请勿转载和采集!