梯度下降更新权重 $w$初始值
可以随机初始化权重 $w$,一般采用正态分布或均匀分布进行随机初始化。具体来说,可以使用 Numpy 库中的 random.randn() 函数生成服从标准正态分布的随机数,再乘以一个较小的数,作为初始权重值。例如:
import numpy as np
# 随机初始化权重,使用标准正态分布
w = np.random.randn(input_size, output_size) * 0.01
其中,input_size 和 output_size 分别表示输入特征数和输出特征数。乘以 0.01 的目的是使得初始权重值较小,避免过大的初始权重值导致训练过程不稳定。
原文地址: https://www.cveoy.top/t/topic/4fH 著作权归作者所有。请勿转载和采集!