残差网络(ResNet) - 深度学习模型突破梯度消失问题

残差网络（Residual Network，简称ResNet）是由微软亚洲研究院的Kaiming He等人提出的一种深度卷积神经网络结构。传统的深度神经网络在层数增加时，容易出现梯度消失或梯度爆炸的问题，导致网络难以训练。而ResNet通过引入'残差学习'（Residual Learning）的思想，成功地训练了152层深度的卷积神经网络，并在多个图像分类和目标检测任务上取得了最好的结果。

'残差学习'的核心思想是：在网络中增加残差连接（Skip Connection），使得网络可以直接学习输入与输出之间的差异（残差），而不是学习整个映射函数。这样可以有效地解决梯度消失和梯度爆炸的问题，并使得网络的训练更加容易和快速。此外，ResNet还引入了批量归一化（Batch Normalization）和预激活（Pre-Activation）等技术，进一步提高了网络的性能和稳定性。