LeNet-5 中 lr、num_epoches 和 momentum 参数解释
lr = 0.01 表示学习率为 0.01,即每次更新参数时的步长大小。
num_epoches = 16 表示训练过程中迭代的次数。
momentum = 0.8 表示动量因子为 0.8,是优化算法中一种加速训练的方法。它通过累积之前梯度的指数移动平均来更新参数,可以减少梯度下降法中参数更新的震荡和抖动,从而加速收敛并提高模型的泛化能力。
原文地址: https://www.cveoy.top/t/topic/oRlu 著作权归作者所有。请勿转载和采集!