深度置信网络自出现以来的发展
深度置信网络(Deep Belief Networks,简称DBN)是一种基于人工神经网络的机器学习算法,最早由Hinton等人在2006年提出。自提出以来,DBN在图像识别、自然语言处理、语音识别等领域都取得了很大的成功,成为深度学习领域的一个重要分支。
以下是DBN自出现以来的发展:
-
2006年:Hinton等人首次提出DBN,并提出了一种基于无监督学习的预训练算法,使得DBN可以学习到更高层次的抽象特征。
-
2007年:Hinton等人提出了一种新的监督学习算法,称为“深度信念网络分类器”(Deep Belief Network Classifier,简称DBNC),并在MNIST手写数字识别数据集上取得了很好的成绩。
-
2009年:Hinton等人提出了“深度自编码器”(Deep Autoencoder),将DBN与自编码器相结合,进一步提高了DBN的性能。
-
2010年:Hinton等人发表了一篇论文,提出了一种新的深度学习算法——“卷积深度置信网络”(Convolutional Deep Belief Network,简称CDBN),用于图像识别任务,取得了很好的成绩。
-
2012年:Hinton等人提出了“Dropout”算法,用于解决过拟合问题。
-
2012年:Krizhevsky等人提出了“卷积神经网络”(Convolutional Neural Network,简称CNN),在ImageNet图像识别竞赛中取得了惊人的成绩,推动了深度学习的发展。
-
2014年:Google Brain团队开发了“GoogleNet”,是一个具有22个卷积层的深度神经网络,取得了当时最好的ImageNet图像识别结果。
-
2015年:Microsoft Research Asia团队提出了“残差网络”(Residual Network,简称ResNet),在ImageNet图像识别竞赛中取得了当时最好的结果,也成为当今最流行的深度神经网络之一。
-
2016年:AlphaGo使用了深度神经网络进行训练,成为第一个击败人类围棋世界冠军的计算机程序。
-
2018年:DeepMind提出了“AlphaZero”,是一种可以自我训练的深度神经网络,可以在没有任何人类知识的情况下学会下围棋、国际象棋和日本将棋。
原文地址: https://www.cveoy.top/t/topic/ZtS 著作权归作者所有。请勿转载和采集!