发布: 8:59pm 23/03/2024

坐看云起 | 强大新技术快速崛起潜在风险威胁民主

作者:Marietje Schaake、Steven Schuurman

从美国到印度，全世界数十个国家将在2024年举行或已经举行了选举。尽管今年看似民主的丰收年，但选举的背景是导致广泛不确定性的全球经济动荡、地缘政治演变和气候变化加剧。

上述不确定性背后是强大新技术的快速崛起，其中某些技术已经在重塑市场并改变全球实力格局。尽管它们有可能解决全球问题，但同样可能扰乱经济、危及公民自由以及破坏民主治理。正如欧盟内部市场专员蒂埃里·布雷顿所观察到的那样，“我们已经被迫加入到一场全球竞赛，“掌握技术”成为驾驭“新地缘政治秩序”的核心问题。

技术颠覆并非一种全新现象，这一点可以肯定。今天的新兴技术之所以与众不同，是因为它们已经到了就连其创造者都难以理解的地步。

以生成式人工智能为例。即使对其自身开发人员而言，谷歌的Gemini（以前被称为Bard）和OpenAI的ChatGPT对用户提示进行响应的确切机制都仍然未被完全理解。

我们已经明确的是，人工智能和量子计算、生物技术、神经技术和气候干预技术等其他快速发展的技术正变得日益强大且有影响力。尽管过去几年出现了丑闻以及政治和监管领域的反弹，但大型科技企业依然是全世界规模最大的企业，而且，无论好坏，继续从各种角度重塑着我们的生活方式。

此外，在过去20年里，少数科技巨头投入巨资用于开发和收购，积累了促使其能在潜在竞争对手崛起之前占领新市场的财富和人才。上述创新力量的集中促使上述少数主体得以保持其市场主导地位——并决定在世界范围内开发和利用其技术的方式。监管机构则争先恐地制定社会保障措施，规范日益强势且复杂的技术，同时，公私认知差距正在呈不断扩大之势。

例如，除开发疫苗及早期监测系统来追踪病毒传播外，生物工程人员还在开发设计细胞、生物体和生态系统的全新工具，进而促成全新药物、作物和材料的诞生。神经链接公司（Neuralink）正在残疾人体内试验植入芯片，并通过直接脑机交互来提升人与系统间的通信速度。与此同时，量子工程师正在研发超级计算机，此举可能破坏对网络安全和隐私至关重要的现有加密体系。此外，还有气候技术人员，尽管缺乏对太阳辐射管理等全球干预措施副作用的现实研究，但他们却越来越倾向于接纳遏制全球变暖的激进措施。

尽管上述进展前景广阔，但鲁莽地将其诉诸应用可能导致不可逆转的后果。过去10年来，典型的例子就是不受监管的社交媒体对政治制度的破坏性影响。同样，如果没有恰当的防护举措，今天仍被我们欢迎的生物技术突破明天就可能引发新疫情，无论源于实验室意外泄露亦故意武器化。

无论对技术创新的可能性感到兴奋亦或对潜在的风险倍感忧虑，上述技术的独有特点、企业力量和全球规模均需要建立护栏及监督体系。上述企业的巨大力量和全球影响力，再加上可能的技术滥用和意外后果，凸显出确保上述强大系统以负责任的方式应用并造福社会的重要性。

在这方面，政府面临一项看似不可能完成的任务。他们必须监管连其创造者都无法完全理解的系统，同时还要努力预测未来的突破。为应对这一困境，决策者必须深入理解技术的运作方式及其之间的相互作用。

为此，监管者必须拥有渠道获取独立信息。随着资本、数据和知识越来越集中到少数企业，确保决策者获得与政策相关的专业知识并使其能够制定符合公共利益的基于事实的政策，这个问题尤为关键。民主领导人需要与新兴技术有关的政策性专业知识——而不是仅仅满足于游说者所提供的框架。

过去几年来，欧盟通过了人工智能法案等系列重要法律，且处于不可替代的独特地位，在坚实的法治基础上管理新兴技术而非仅仅服务于企业利润。但首先，欧盟决策者必须走在下一个弯道前头。他们必须通过学习，掌握前沿领域到底发生了什么。坐等新技术引入市场根本来不及。

政府必须从过去的挑战中汲取教训，积极引导技术创新，并关注民主原则和积极的社会影响超越行业利润。随着全球秩序面临越来越沉重的压力，政治领袖绝不能只盯着投票箱，而是要重点关注减轻新兴技术所带来的长期风险。

______________________________________________

Marietje Schaake，前欧洲议会议员，斯坦福大学网络政策中心国际政策主任，国际代际中心新兴技术管理实践领袖。Steven Schuurman，Elastic联合创始人兼前首席执行官，国际代际中心联合创始人。

打开全文