深度置信网络(Deep Belief Networks,简称DBN)是一种基于人工神经网络的机器学习算法,最早由Hinton等人在2006年提出。自提出以来,DBN在图像识别、自然语言处理、语音识别等领域都取得了很大的成功,成为深度学习领域的一个重要分支。

以下是DBN自出现以来的发展:

  1. 2006年:Hinton等人首次提出DBN,并提出了一种基于无监督学习的预训练算法,使得DBN可以学习到更高层次的抽象特征。

  2. 2007年:Hinton等人提出了一种新的监督学习算法,称为“深度信念网络分类器”(Deep Belief Network Classifier,简称DBNC),并在MNIST手写数字识别数据集上取得了很好的成绩。

  3. 2009年:Hinton等人提出了“深度自编码器”(Deep Autoencoder),将DBN与自编码器相结合,进一步提高了DBN的性能。

  4. 2010年:Hinton等人发表了一篇论文,提出了一种新的深度学习算法——“卷积深度置信网络”(Convolutional Deep Belief Network,简称CDBN),用于图像识别任务,取得了很好的成绩。

  5. 2012年:Hinton等人提出了“Dropout”算法,用于解决过拟合问题。

  6. 2012年:Krizhevsky等人提出了“卷积神经网络”(Convolutional Neural Network,简称CNN),在ImageNet图像识别竞赛中取得了惊人的成绩,推动了深度学习的发展。

  7. 2014年:Google Brain团队开发了“GoogleNet”,是一个具有22个卷积层的深度神经网络,取得了当时最好的ImageNet图像识别结果。

  8. 2015年:Microsoft Research Asia团队提出了“残差网络”(Residual Network,简称ResNet),在ImageNet图像识别竞赛中取得了当时最好的结果,也成为当今最流行的深度神经网络之一。

  9. 2016年:AlphaGo使用了深度神经网络进行训练,成为第一个击败人类围棋世界冠军的计算机程序。

  10. 2018年:DeepMind提出了“AlphaZero”,是一种可以自我训练的深度神经网络,可以在没有任何人类知识的情况下学会下围棋、国际象棋和日本将棋。

深度置信网络自出现以来的发展

原文地址: https://www.cveoy.top/t/topic/ZtS 著作权归作者所有。请勿转载和采集!

免费AI点我,无需注册和登录