MNIST 手写数字识别：单隐层神经网络参数调优实验

本次实验通过构建单隐层神经网络实现了 MNIST 数据集的分类任务，并通过实验分析了隐层结点数量和学习率、激活函数等分析其对模型准确率与总体均方误差的变化。

首先，在初始化神经网络时，设置输入层节点数、隐藏层节点数、输出层节点数和学习率等参数。随机生成输入层到隐藏层的权重和隐藏层到输出层的权重。然后用 MNIST 数据集训练网络，训练完毕后开始测试数据集。最后尝试用打开的图片进行测试。该处由于实现了一个 GUI 界面，对不同节点数、学习率的选择都可以在页面中完成。

在训练过程中，设置了一个世代的循环和一个记录训练次数的循环。每个训练样本都会得到一个输出和一个标签（介于 0 和 9 之间的整数）。计算误差（精确值-实际值），通过反向传播更新权重。在初始学习率为 0.1，训练世代为 5 的情况下，逐步增加隐层节点数量，经过测试发现，随着隐层节点数量的增加，分类的准确率短暂上升后开始下降。分析可能原因是 MNIST 数据集相对简单，所以单隐层的神经网络已经足够解决分类任务，过多的神经元会导致网络的过拟合。

接下来设置了不同的学习率进行分类任务。保持输入、隐层、输出结点数为 784、50、10 不变，进行学习率从 0.01 逐步变化到 1.0 的实验，随着学习率的变化，分类准确率一开始逐渐上升，但随着学习内容：率的继续增大，分类准确率开始下降。这是因为学习率过大会导致权重更新过度，导致网络的震荡和不稳定性，从而影响分类准确率。

最后，尝试了不同的激活函数，包括 sigmoid 函数、ReLU 函数和 tanh 函数。实验结果表明，ReLU 函数的分类准确率最高，而 sigmoid 函数的分类准确率最低。这是因为 ReLU 函数可以避免梯度消失问题，并且在计算速度上更快，而 sigmoid 函数则容易产生梯度消失问题，从而影响分类准确率。

综上所述，通过本次实验，我们可以发现神经网络的性能受到许多因素的影响，包括隐层节点数量、学习率和激活函数等。在实际应用中，需要根据具体情况选择最适合的参数，从而获得最佳的分类效果。