AI先驅：AI導致人類滅絕威脅被誇大

簽署人堅持認為，全球領導人應該努力減少AI技術帶來的“滅絕風險”。

這份只有一句話的聲明表示，應對AI帶來的風險應該“與流行病和核戰爭等其他社會規模的風險一起成為全球優先事項”。

簽署方包括那些正在構建旨在實現“通用”AI的系統的公司，這種技術將使AI的認知能力與人類相當。

馬庫斯說：“如果你真的認為存在生存風險，那你為什麼還要研究這個?”這是一個相當公平的問題。”

他推測，社會不應該把注意力放在無人生還的牽強的場景上，而應該把注意力放在真正的危險所在。

他繼續說道：“人們可能會試圖通過使用AI來操縱市場，造成各種各樣的混亂，然後我們可能會，例如，指責俄羅斯人，說，‘看看他們對我們的國家做了什麼’，而俄羅斯人實際上並沒有參與其中。”

“你(可能)會有這種升級，最終導致核戰爭或類似的事情。所以我認為在某些情況下，這是非常嚴重的。滅絕？我不知道。”

在短期內，心理學專家擔心民主受創。

生成式AI軟件以極低的成本製作出越來越令人信服的假照片，很快還會製作出視頻。

因此，“更善於傳播虛假信息的人將贏得選舉，這些人可能會改變規則，讓民主很難繼續下去。”

此外，“民主的前提是擁有合理的信息並做出正確的決定。如果沒有人知道該相信什麼，那你怎麼推進民主?”

然而，《重啟AI》一書的作者認為，我們不應該放棄希望，他仍然看到了“很多好處”。

馬庫斯說，尚未問世的AI絕對有可能在“協助科學、醫學和老年人護理”上起到作用。

他指出：“但在短期內，我覺得我們還沒有準備好。在這個過程中會有一些傷害，我們真的需要改善，我們必須找出嚴肅的監管措施。”

在今年5月的美國參議院聽證會上，馬庫斯坐在奧特曼旁邊，主張成立一個負責AI治理的國家或國際機構。

這個想法也得到了奧特曼的支持，後者剛剛從歐洲之行回來，他敦促政治領導人在安全和創新之間找到“適當的平衡”。

不過馬庫斯警告，切勿將這項權力交給企業。

他說：“過去幾個月的情況確實提醒我們，在這裡發號施令的大公司不一定對我們其他人感興趣。”