马斯克等1000人签署公开信 促立即暂停训练强大AI

（纽约29日综合电）在ChatGPT全球掀起热潮之际，包括特斯拉执行长马斯克在内的科技界名人共同发出公开信，呼吁立即暂停训练比GPT-4更强大的先进AI系统6个月，因为这对社会、人类存在潜在风险。

据报道，这封公开信呼吁暂停先进AI系统开发，直到这类设计拥有由独立专家发展、应用及稽核的共享安全协议，“唯有在我们确信相关影响是正向的、风险受控的情况下，才应该开发强大的AI系统。”而这次的暂停应为公开且可验证的，若无法迅速喊停，政府应该要介入干预。

公开信称：“先进的人工智能可代表地球生命史一次深层的变化，在制定计划及管理时应要有相对应的关照及资源。在最近数个月，已见多个人工智实验室纷纷失控般地投入研发及部署一个更强大的，即便是连设计者本身都无法了解、预测甚至很好控制的数位大脑，但不幸的是，仍未见上述提及的计划及管理。”

信中并详述AI系统对社会与文明的潜在风险，包括经济与政治混乱，敦促开发者要与监管决策当局合作。

公开信说：“强大的AI系统，唯有在我们有信心它的效应会是正向的，它的风险可以被管控，才能够研发。”

这封公开信总计超过1000多人连署，除了马斯克之外，也包括独立研究机构Stability AI执行长莫斯塔克、图灵奖得主班吉欧、苹果联合创始人瓦兹尼亚克及Alphabet旗下人工智慧公司DeepMind的研究员等。

这封信指出，与人类竞争的人工智慧（AI）系统可能以经济和政治冲击的形式对社会和文明构成潜在风险，呼吁开发人员就治理和监管机构、决策者合作。