发布: 8:59pm 23/03/2024

坐看雲起 | 強大新技術快速崛起潛在風險威脅民主

作者:Marietje Schaake、Steven Schuurman

從美國到印度，全世界數十個國家將在2024年舉行或已經舉行了選舉。儘管今年看似民主的豐收年，但選舉的背景是導致廣泛不確定性的全球經濟動盪、地緣政治演變和氣候變化加劇。

上述不確定性背後是強大新技術的快速崛起，其中某些技術已經在重塑市場並改變全球實力格局。儘管它們有可能解決全球問題，但同樣可能擾亂經濟、危及公民自由以及破壞民主治理。正如歐盟內部市場專員蒂埃裡·布雷頓所觀察到的那樣，“我們已經被迫加入到一場全球競賽，“掌握技術”成為駕馭“新地緣政治秩序”的核心問題。

技術顛覆並非一種全新現象，這一點可以肯定。今天的新興技術之所以與眾不同，是因為它們已經到了就連其創造者都難以理解的地步。

以生成式人工智能為例。即使對其自身開發人員而言，谷歌的Gemini（以前被稱為Bard）和OpenAI的ChatGPT對用戶提示進行響應的確切機制都仍然未被完全理解。

我們已經明確的是，人工智能和量子計算、生物技術、神經技術和氣候干預技術等其他快速發展的技術正變得日益強大且有影響力。儘管過去幾年出現了醜聞以及政治和監管領域的反彈，但大型科技企業依然是全世界規模最大的企業，而且，無論好壞，繼續從各種角度重塑著我們的生活方式。

此外，在過去20年裡，少數科技巨頭投入巨資用於開發和收購，積累了促使其能在潛在競爭對手崛起之前佔領新市場的財富和人才。上述創新力量的集中促使上述少數主體得以保持其市場主導地位——並決定在世界範圍內開發和利用其技術的方式。監管機構則爭先恐地制定社會保障措施，規範日益強勢且複雜的技術，同時，公私認知差距正在呈不斷擴大之勢。

例如，除開發疫苗及早期監測系統來追蹤病毒傳播外，生物工程人員還在開發設計細胞、生物體和生態系統的全新工具，進而促成全新藥物、作物和材料的誕生。神經鏈接公司（Neuralink）正在殘疾人體內試驗植入芯片，並通過直接腦機交互來提升人與系統間的通信速度。與此同時，量子工程師正在研發超級計算機，此舉可能破壞對網絡安全和隱私至關重要的現有加密體系。此外，還有氣候技術人員，儘管缺乏對太陽輻射管理等全球干預措施副作用的現實研究，但他們卻越來越傾向於接納遏制全球變暖的激進措施。

儘管上述進展前景廣闊，但魯莽地將其訴諸應用可能導致不可逆轉的後果。過去10年來，典型的例子就是不受監管的社交媒體對政治制度的破壞性影響。同樣，如果沒有恰當的防護舉措，今天仍被我們歡迎的生物技術突破明天就可能引發新疫情，無論源於實驗室意外洩露亦故意武器化。

無論對技術創新的可能性感到興奮亦或對潛在的風險倍感憂慮，上述技術的獨有特點、企業力量和全球規模均需要建立護欄及監督體系。上述企業的巨大力量和全球影響力，再加上可能的技術濫用和意外後果，凸顯出確保上述強大系統以負責任的方式應用並造福社會的重要性。

在這方面，政府面臨一項看似不可能完成的任務。他們必須監管連其創造者都無法完全理解的系統，同時還要努力預測未來的突破。為應對這一困境，決策者必須深入理解技術的運作方式及其之間的相互作用。

為此，監管者必須擁有渠道獲取獨立信息。隨著資本、數據和知識越來越集中到少數企業，確保決策者獲得與政策相關的專業知識並使其能夠制定符合公共利益的基於事實的政策，這個問題尤為關鍵。民主領導人需要與新興技術有關的政策性專業知識——而不是僅僅滿足於遊說者所提供的框架。

過去幾年來，歐盟通過了人工智能法案等系列重要法律，且處於不可替代的獨特地位，在堅實的法治基礎上管理新興技術而非僅僅服務於企業利潤。但首先，歐盟決策者必須走在下一個彎道前頭。他們必須通過學習，掌握前沿領域到底發生了什麼。坐等新技術引入市場根本來不及。

政府必須從過去的挑戰中汲取教訓，積極引導技術創新，並關注民主原則和積極的社會影響超越行業利潤。隨著全球秩序面臨越來越沉重的壓力，政治領袖絕不能只盯著投票箱，而是要重點關注減輕新興技術所帶來的長期風險。

______________________________________________

Marietje Schaake，前歐洲議會議員，斯坦福大學網絡政策中心國際政策主任，國際代際中心新興技術管理實踐領袖。Steven Schuurman，Elastic聯合創始人兼前首席執行官，國際代際中心聯合創始人。

打开全文