AI的盡頭，是天堂或斷崖？

而以AlphaGo為代表的新時代人工智能，又有什麼不同？

若把機器分為兩類，一類就是廚師（人類）教徒弟（機器）每個做菜的步驟，然後徒弟跟著學，就能做出同樣一盤菜。另一類者則是廚師（人類）丟給徒弟（機器）一堆材料，徒弟自己試著烹製，結果做出了連廚師也做不出的更美味佳餚。

IBM的超級電腦屬於第一類徒弟，AlphaGo為代表的新一代人工智能則是後者。只要將以前的棋譜丟給Alpha，讓它自己觀察分析棋譜的邏輯脈絡，最後再和高手過招增加實踐經驗，它就學會下棋了。更甚的是，AlphaZero僅花了9個小時和自己對弈，就成為人類棋士無法戰勝的存在。

這種學習算法不只能用在下棋，只要稍加改造，還可以生產出更多其他領域的AI。像是現在大熱門的聊天機器人程序ChatGPT（符合客觀標準地回答所有包羅萬象的問題）、圖像生成工具程式Midjourney（根據輸入的文本自動生成圖像）、音樂生成程式Suno（透過輸入文字快速創作出高品質旋律和歌詞的歌曲）等等。這些Ai核心源自一種稱為“深度學習”（Deep Learning）的模型，通過模擬人腦神經元的連接方式，構建出一個由多層神經元組成的大型網絡，從而實現對語言的理解和生成。

◢“超級智慧”也可能失控

面對AI逆天的學習能力，人類是否將被取代？

對於大眾的這些擔憂，科技領導者通常如此勸慰：AI會帶來好處，即使帶來害處，那也只是短期問題，且很容易解決。例如DeepMind的共同創辦人德米斯·哈薩比斯認為“透過加強人類追求各種方法與原因的能力，AI將會擴大知識的邊界，解鎖全新的科學發現途徑，讓數十億人的生活得以改善。”許多AI專家也持相同想法，認為與AI相關的技術將實現所謂的“超級智慧”（superintelligence）或“奇點”（singularity），讓人類享有無限的繁榮，甚至創造出“超人類”（superhuman）。

當然也不是所有科技領頭人都如此樂觀。比爾·蓋茲與伊隆·馬斯克就曾表達對超級智慧發展失控的憂慮。但他們並沒停下研發AI的腳步，同時也認同其他同業的想法：“大部分技術還是立意良善的”。

兩位麻省理工學院教授戴維·奧托（David Autor）與賽門·強森（Simon Johnson）聯手撰寫的大塊書《權力與進步》提到了AI與共享繁榮的願景聯結，並非自然而然的水到渠成。第六章有一段話：“‘技術不利於勞工’這件事一向都是處於選擇，而不是追求進步時無可避免的副作用。”

◢技術不保證未來，但制度可以？

《權力與進步》提到過去的一萬年間，許多重要的新農業技術，像是中世紀歐洲的風車發明、更好的輪耕制度設計、馬匹廣泛的使用等，即便提升了農業生產力，卻沒有改善農夫的生活水準，反而加劇了當時社會的貧富差距。在工業化的第一個世紀也是同樣情況，掌握技術的人變得極度富裕，而大部分工人階級的生活水準嚴重下降，疾病和汙染在城市肆虐。

或許有人會反駁說，後來的情況變好了呀？的確，到了19世紀下半葉情況變得不同，工人的工作條件獲得改善，實質薪資大幅成長，城市公共衛生得到改進，但這些都不是因為技術創新帶來的好處，而是政治與經濟上不斷改革與抗爭換來的成果。當時的英國，憲章運動與工會興起讓更多非上層階級的人們獲得政治代表權，也扭轉了當時政府的不作為。在美國，工會組織與農民抗議促成了同樣的局面，整個歐洲因為工廠興起，讓勞工更容易被組織起來，形成一股制衡勢力，才迫使主事者必須認真面對問題，把生產力提高後獲取的利益拿出來與眾人分享。不過許多歐洲的殖民地情況則未得到改善，這裡就表過不提了。

上述的歷史推演，我們可以簡單總結成——技術的興起，並不能保證美好未來；建立完善的社會制度，才是重中之重。但選擇一個怎樣的社會制度，往往由“權力”裁決。

如何使用人類的集體知識，決定因素並非單純從技術或工程層面來考量，而是由掌控權力者來說服其他人接受自己的觀點，這些觀點往往正符合他們個體的利益。意識到自動化能進一步掌控生產過程，節省人力成本，並削弱勞工的力量，這一小撮人的需求，讓現今AI創新的方向以自動化和監控為發展重點，於是還有許多可能帶來截然不同影響的道路便被遮蔽了。

◢科技進步，新病毒也能DIY？

鑑於自動化屬性的AI研發已經無法阻擋，那人類該如何自處？可能有些人覺得最糟糕也不過是丟了飯碗，大不了在家躺平啃老。事實上，AI帶來的，可能不僅是一大波的失業浪潮。

接下來要分享的內容，出自今年5月發行的《控制邊緣》一書。值得關注的是其中一位作者穆斯塔法·蘇萊曼（Mustafa Suleyman）的身分，除了現時擔任微軟執行副總裁兼新部門“Microsoft AI”執行長，還是DeepMind公司的聯合創始人，也是之前提到的AlphaGo的開發者之一。

蘇萊曼把當前AI的發展狀況形容成一條狹隘的路，當技術變得越來越廉價、強大、普遍，而風險持續累積，想要僥倖通過這條狹路，並避免狹路兩邊的可怕結果（一邊是技術權威主義的反烏托邦，另一邊是開放帶來的災難），能脫困的機會變得愈發渺茫。

許多書籍、推文、訊息都圍繞AI去暢談未來，卻很少人談論如何“駕馭”AI。

作者提及在COVID-19疫情暴發前不久，他去某著名大學參加科技風險研討會，其中一位簡報者指出，DNA合成器的價格正迅速下降，當這種合成器的價格下跌至數萬美元，體積將會小到能放在車庫的工作臺上，任何一個讀過生物學研究所或熱衷線上自學的人，都可以自行DIY創造出傳播力強且致命的新型病原體。

這位簡報者是一位受人敬重的資深教授，他表明這不是科幻小說，而是真實存在的風險。簡報最後以一個令人不安的概念結束：

“如今，一個人可能‘有能力殺死十億人’，只要有動機就能辦到。”

這場簡報的內容在後續幾個月一直在蘇萊曼腦中盤旋（老實說，筆者讀到這段情節後，也跟作者一樣不斷倒帶回想），當時研討會上的每個人都侷促不安移動身子或咳嗽，之後便開始發牢騷和反駁，並且認定這樣的事情肯定不會發生、肯定會有一些控制機制、資料庫肯定可以鎖住……

沒有人想面對他們聽到的確切事實與可怕幾率帶來的影響，就連作者當時也附和了大家的看法。

但事後作者開始質疑：為何自己和其他人沒有更認真看待那件事？為什麼全部人都只是尷尬地迴避進一步的討論？甚至有些人尖酸指責提出問題的人將科技災難化，忽視了科技的驚人效益。

為了冷靜正視這種趨避悲觀的情緒反應，努力找出駕馭AI科技的方案，就成了蘇萊曼撰寫本書的目的。

作者認為該踏出的第一步，是社會與政治層面的集體反應，而不是個人的單獨倡議。那會是一套極其複雜、與社會制度和法律機制互連的技術。而要讓社會產生共識，讓這套技術儘快完善、擺脫困境是迫在眉梢的最大議題。

AI技術的使用成本下降以及普及化，讓世界進入危險的新時代。蘇萊曼在《控》第4章與第9章提及，LLM在AI生成合成媒體方面出現驚人進展，所有人都有能力創造及傳播極其逼真的內容。極其完美的深偽內容（無論是文本、圖像、影片還是音訊），讓虛假訊息與詐騙案例鋪天蓋地無所不在，甚至也讓政治傳播遇到前所未有的挑戰。有意製造不穩定的不良分子，依賴AI科技更容易達到目的。這些行為都破壞了人與人之間的信任，放大了社會的脆弱。

有人認為，把AI交由政府管制，就不會出現極端個體或組織利用AI來製造恐怖襲擊。但若AI這項利器只被政府掌控，民眾又沒有能力抗衡，人類依舊沒有辦法通過狹小的道路──倒向狹路的另一邊，可能是喬治·歐威爾所描述的由老大哥監控所有的《1984》，也可能像阿道司·赫胥黎筆下充斥享樂且毫無個人意識的《美麗新世界》。

◢“寄生獸”是當下AI縮影

《權力與進步》和《控制邊緣》除了闡述AI的風險，也提出一些具體駕馭AI將風險減至最小的方案。但礙於篇幅，筆者只集中闡述AI會有的負面效應，讓讀者可以採取更慎重的態度審視AI，而非用短期利益的視角，盲目樂觀地推動一股可能帶來反撲的浪潮。

日本一套名為《寄生獸》的漫畫，故事講述地球某天出現了無數袍子，從孢子中誕生的怪異幼蟲能侵入人類大腦，偽裝成人類，而他們的食物來源正是人類，於是帶著人形的寄生獸展開殺戮。某隻幼蟲沒成功吞噬男主大腦，反而意外寄宿在男主的左手，於是男主保留自我意識，與被取名為“米奇”的寄生獸共存合作。這部在1980年代末至1990年代初連載的漫畫，妥妥就是當下AI的縮影。

AI究竟會吞噬掉人類，抑或成為人類得心應手的工具，將在未來揭曉答案。而一切，將交由人性來掌舵。

相關文章：

銀行賬號？密碼？Sorry，谷歌AI叫我別給
想打廣告不會設計圖？ Meta的AI工具一鍵搞定