諾貝爾物理學獎得主 對自己參與創建的AI技術 感到“極慌張” 籲深度理解AI

霍普菲爾德與英國出生的加拿大多倫多大學榮譽教授辛頓，因為使用了物理學的工具，對類神經網絡的突破性研究，開發了當今強大機器學習的基礎方法，週二獲得瑞典皇家科學院認可，被授予今年的諾貝爾物理學獎。

曾在谷歌領導AI部門的“AI教父”辛頓本人去年成為AI末日預言者的典型代表，他在多倫多大學舉行的記者會上再次談到了這個主題。76歲的辛頓告訴記者，“如果你環顧四周，你會發現很少有更智能的東西被不太智能的東西控制的例子，這讓我懷疑，當AI變得比我們更聰明時，它是否會接過控制權。”

隨著AI能力的迅猛發展，以及由此引發的公司之間的激烈競爭，這項技術因發展速度超出科學家所能完全理解的速度而受到批評。

霍普菲爾德強調，“你不知道你開始時的集體特性，實際上是具有所有交互的集體特性，因此你不知道是否隱藏著一些自發的但不受歡迎的東西。”

他說：“我擔心任何說‘我比你快，我比你大……你能和我和平共處嗎？’的話。”

他指出，目前不可能知道如何逃離災難性情景，“這就是為什麼我們迫切需要更多的研究。”

他說：“我主張我們最優秀的年輕研究人員，或者其中的許多人，應該致力於AI的安全研究，政府應該迫使大公司提供他們所需的計算設施”。