诺贝尔物理学奖得主 对自己参与创建的AI技术 感到“极慌张” 吁深度理解AI

霍普菲尔德与英国出生的加拿大多伦多大学荣誉教授辛顿，因为使用了物理学的工具，对类神经网络的突破性研究，开发了当今强大机器学习的基础方法，周二获得瑞典皇家科学院认可，被授予今年的诺贝尔物理学奖。

曾在谷歌领导AI部门的“AI教父”辛顿本人去年成为AI末日预言者的典型代表，他在多伦多大学举行的记者会上再次谈到了这个主题。76岁的辛顿告诉记者，“如果你环顾四周，你会发现很少有更智能的东西被不太智能的东西控制的例子，这让我怀疑，当AI变得比我们更聪明时，它是否会接过控制权。”

随着AI能力的迅猛发展，以及由此引发的公司之间的激烈竞争，这项技术因发展速度超出科学家所能完全理解的速度而受到批评。

霍普菲尔德强调，“你不知道你开始时的集体特性，实际上是具有所有交互的集体特性，因此你不知道是否隐藏着一些自发的但不受欢迎的东西。”

他说：“我担心任何说‘我比你快，我比你大……你能和我和平共处吗？’的话。”

他指出，目前不可能知道如何逃离灾难性情景，“这就是为什么我们迫切需要更多的研究。”

他说：“我主张我们最优秀的年轻研究人员，或者其中的许多人，应该致力于AI的安全研究，政府应该迫使大公司提供他们所需的计算设施”。