史蒂芬·霍金警告人工智能可能是人类的福音或毁灭

史蒂芬·霍金教授警告说，强大的人工智能(AI)的创造将是'对人类发生的最好或最坏的事情'，并称赞成立一个致力于研究未来智能的学术机构是'对我们文明和物种的未来至关重要的'。

霍金在剑桥大学开设的Leverhulme未来智能中心(LCFI)的开幕式上发表讲话，这是一个跨学科研究所，将试图解决AI研究快速发展所引发的许多未解问题。 '我们花费大量时间研究历史'，霍金说，'让我们面对现实吧，历史大多是愚蠢的历史。所以，人们正在研究智能的未来，这是一个受欢迎的变化。'

虽然这位世界著名的物理学家经常对AI持谨慎态度，对于人类可能创造出具有自己意志的超级智能，从而成为自己毁灭的设计师，他也很快强调了AI研究所带来的积极影响。'创造智能的潜在好处是巨大的'，他说。'我们无法预测自己的思想被AI扩大后可能取得的成就。也许，随着这场新技术革命的工具，我们将能够消除上一次工业化对自然界造成的一些损害。而且，我们肯定会致力于最终消除疾病和贫困。我们生活的方方面面都将发生变革。简而言之，成功地创造AI可能是我们文明史上最重要的事件。'

LCFI的学术主任和剑桥大学的伯特兰德·罗素哲学教授Huw Price说，这个中心的成立部分是由于该大学的灭绝风险中心。该研究所研究了更广泛的潜在人类问题，而LCFI则有着更狭窄的焦点。

AI先驱人物、苏塞克斯大学认知科学教授玛格丽特·博登赞扬了这些讨论的进展。她说，即使是在2009年，这个话题在AI研究人员中也没有被认真对待。'AI非常令人兴奋'，她说，'但它也有局限性，由于未经过批判性使用，这可能会带来严重的危险。'

学术界不是唯一对AI的潜在危险以及潜在好处发出警告的人群。科技产业的一些先驱，特别是企业家埃隆·马斯克，也表达了他们的担忧，即超级智能AI可能对人类造成的破坏。