AI先驱：AI导致人类灭绝威胁被夸大

签署人坚持认为，全球领导人应该努力减少AI技术带来的“灭绝风险”。

这份只有一句话的声明表示，应对AI带来的风险应该“与流行病和核战争等其他社会规模的风险一起成为全球优先事项”。

签署方包括那些正在构建旨在实现“通用”AI的系统的公司，这种技术将使AI的认知能力与人类相当。

马库斯说：“如果你真的认为存在生存风险，那你为什么还要研究这个?”这是一个相当公平的问题。”

他推测，社会不应该把注意力放在无人生还的牵强的场景上，而应该把注意力放在真正的危险所在。

他继续说道：“人们可能会试图通过使用AI来操纵市场，造成各种各样的混乱，然后我们可能会，例如，指责俄罗斯人，说，‘看看他们对我们的国家做了什么’，而俄罗斯人实际上并没有参与其中。”

“你(可能)会有这种升级，最终导致核战争或类似的事情。所以我认为在某些情况下，这是非常严重的。灭绝？我不知道。”

在短期内，心理学专家担心民主受创。

生成式AI软件以极低的成本制作出越来越令人信服的假照片，很快还会制作出视频。

因此，“更善于传播虚假信息的人将赢得选举，这些人可能会改变规则，让民主很难继续下去。”

此外，“民主的前提是拥有合理的信息并做出正确的决定。如果没有人知道该相信什么，那你怎么推进民主?”

然而，《重启AI》一书的作者认为，我们不应该放弃希望，他仍然看到了“很多好处”。

马库斯说，尚未问世的AI绝对有可能在“协助科学、医学和老年人护理”上起到作用。

他指出：“但在短期内，我觉得我们还没有准备好。在这个过程中会有一些伤害，我们真的需要改善，我们必须找出严肃的监管措施。”

在今年5月的美国参议院听证会上，马库斯坐在奥特曼旁边，主张成立一个负责AI治理的国家或国际机构。

这个想法也得到了奥特曼的支持，后者刚刚从欧洲之行回来，他敦促政治领导人在安全和创新之间找到“适当的平衡”。

不过马库斯警告，切勿将这项权力交给企业。

他说：“过去几个月的情况确实提醒我们，在这里发号施令的大公司不一定对我们其他人感兴趣。”