AI的尽头，是天堂或断崖？

而以AlphaGo为代表的新时代人工智能，又有什么不同？

若把机器分为两类，一类就是厨师（人类）教徒弟（机器）每个做菜的步骤，然后徒弟跟着学，就能做出同样一盘菜。另一类者则是厨师（人类）丢给徒弟（机器）一堆材料，徒弟自己试着烹制，结果做出了连厨师也做不出的更美味佳肴。

IBM的超级电脑属于第一类徒弟，AlphaGo为代表的新一代人工智能则是后者。只要将以前的棋谱丢给Alpha，让它自己观察分析棋谱的逻辑脉络，最后再和高手过招增加实践经验，它就学会下棋了。更甚的是，AlphaZero仅花了9个小时和自己对弈，就成为人类棋士无法战胜的存在。

这种学习算法不只能用在下棋，只要稍加改造，还可以生产出更多其他领域的AI。像是现在大热门的聊天机器人程序ChatGPT（符合客观标准地回答所有包罗万象的问题）、图像生成工具程式Midjourney（根据输入的文本自动生成图像）、音乐生成程式Suno（透过输入文字快速创作出高品质旋律和歌词的歌曲）等等。这些Ai核心源自一种称为“深度学习”（Deep Learning）的模型，通过模拟人脑神经元的连接方式，构建出一个由多层神经元组成的大型网络，从而实现对语言的理解和生成。

◢“超级智慧”也可能失控

面对AI逆天的学习能力，人类是否将被取代？

对于大众的这些担忧，科技领导者通常如此劝慰：AI会带来好处，即使带来害处，那也只是短期问题，且很容易解决。例如DeepMind的共同创办人德米斯·哈萨比斯认为“透过加强人类追求各种方法与原因的能力，AI将会扩大知识的边界，解锁全新的科学发现途径，让数十亿人的生活得以改善。”许多AI专家也持相同想法，认为与AI相关的技术将实现所谓的“超级智慧”（superintelligence）或“奇点”（singularity），让人类享有无限的繁荣，甚至创造出“超人类”（superhuman）。

当然也不是所有科技领头人都如此乐观。比尔·盖兹与伊隆·马斯克就曾表达对超级智慧发展失控的忧虑。但他们并没停下研发AI的脚步，同时也认同其他同业的想法：“大部分技术还是立意良善的”。

两位麻省理工学院教授戴维·奥托（David Autor）与赛门·强森（Simon Johnson）联手撰写的大块书《权力与进步》提到了AI与共享繁荣的愿景联结，并非自然而然的水到渠成。第六章有一段话：“‘技术不利于劳工’这件事一向都是处于选择，而不是追求进步时无可避免的副作用。”

◢技术不保证未来，但制度可以？

《权力与进步》提到过去的一万年间，许多重要的新农业技术，像是中世纪欧洲的风车发明、更好的轮耕制度设计、马匹广泛的使用等，即便提升了农业生产力，却没有改善农夫的生活水准，反而加剧了当时社会的贫富差距。在工业化的第一个世纪也是同样情况，掌握技术的人变得极度富裕，而大部分工人阶级的生活水准严重下降，疾病和污染在城市肆虐。

或许有人会反驳说，后来的情况变好了呀？的确，到了19世纪下半叶情况变得不同，工人的工作条件获得改善，实质薪资大幅成长，城市公共卫生得到改进，但这些都不是因为技术创新带来的好处，而是政治与经济上不断改革与抗争换来的成果。当时的英国，宪章运动与工会兴起让更多非上层阶级的人们获得政治代表权，也扭转了当时政府的不作为。在美国，工会组织与农民抗议促成了同样的局面，整个欧洲因为工厂兴起，让劳工更容易被组织起来，形成一股制衡势力，才迫使主事者必须认真面对问题，把生产力提高后获取的利益拿出来与众人分享。不过许多欧洲的殖民地情况则未得到改善，这里就表过不提了。

上述的历史推演，我们可以简单总结成——技术的兴起，并不能保证美好未来；建立完善的社会制度，才是重中之重。但选择一个怎样的社会制度，往往由“权力”裁决。

如何使用人类的集体知识，决定因素并非单纯从技术或工程层面来考量，而是由掌控权力者来说服其他人接受自己的观点，这些观点往往正符合他们个体的利益。意识到自动化能进一步掌控生产过程，节省人力成本，并削弱劳工的力量，这一小撮人的需求，让现今AI创新的方向以自动化和监控为发展重点，于是还有许多可能带来截然不同影响的道路便被遮蔽了。

◢科技进步，新病毒也能DIY？

鉴于自动化属性的AI研发已经无法阻挡，那人类该如何自处？可能有些人觉得最糟糕也不过是丢了饭碗，大不了在家躺平啃老。事实上，AI带来的，可能不仅是一大波的失业浪潮。

接下来要分享的内容，出自今年5月发行的《控制边缘》一书。值得关注的是其中一位作者穆斯塔法·苏莱曼（Mustafa Suleyman）的身分，除了现时担任微软执行副总裁兼新部门“Microsoft AI”执行长，还是DeepMind公司的联合创始人，也是之前提到的AlphaGo的开发者之一。

苏莱曼把当前AI的发展状况形容成一条狭隘的路，当技术变得越来越廉价、强大、普遍，而风险持续累积，想要侥幸通过这条狭路，并避免狭路两边的可怕结果（一边是技术权威主义的反乌托邦，另一边是开放带来的灾难），能脱困的机会变得愈发渺茫。

许多书籍、推文、讯息都围绕AI去畅谈未来，却很少人谈论如何“驾驭”AI。

作者提及在COVID-19疫情暴发前不久，他去某著名大学参加科技风险研讨会，其中一位简报者指出，DNA合成器的价格正迅速下降，当这种合成器的价格下跌至数万美元，体积将会小到能放在车库的工作台上，任何一个读过生物学研究所或热衷线上自学的人，都可以自行DIY创造出传播力强且致命的新型病原体。

这位简报者是一位受人敬重的资深教授，他表明这不是科幻小说，而是真实存在的风险。简报最后以一个令人不安的概念结束：

“如今，一个人可能‘有能力杀死十亿人’，只要有动机就能办到。”

这场简报的内容在后续几个月一直在苏莱曼脑中盘旋（老实说，笔者读到这段情节后，也跟作者一样不断倒带回想），当时研讨会上的每个人都局促不安移动身子或咳嗽，之后便开始发牢骚和反驳，并且认定这样的事情肯定不会发生、肯定会有一些控制机制、资料库肯定可以锁住……

没有人想面对他们听到的确切事实与可怕几率带来的影响，就连作者当时也附和了大家的看法。

但事后作者开始质疑：为何自己和其他人没有更认真看待那件事？为什么全部人都只是尴尬地回避进一步的讨论？甚至有些人尖酸指责提出问题的人将科技灾难化，忽视了科技的惊人效益。

为了冷静正视这种趋避悲观的情绪反应，努力找出驾驭AI科技的方案，就成了苏莱曼撰写本书的目的。

作者认为该踏出的第一步，是社会与政治层面的集体反应，而不是个人的单独倡议。那会是一套极其复杂、与社会制度和法律机制互连的技术。而要让社会产生共识，让这套技术尽快完善、摆脱困境是迫在眉梢的最大议题。

AI技术的使用成本下降以及普及化，让世界进入危险的新时代。苏莱曼在《控》第4章与第9章提及，LLM在AI生成合成媒体方面出现惊人进展，所有人都有能力创造及传播极其逼真的内容。极其完美的深伪内容（无论是文本、图像、影片还是音讯），让虚假讯息与诈骗案例铺天盖地无所不在，甚至也让政治传播遇到前所未有的挑战。有意制造不稳定的不良分子，依赖AI科技更容易达到目的。这些行为都破坏了人与人之间的信任，放大了社会的脆弱。

有人认为，把AI交由政府管制，就不会出现极端个体或组织利用AI来制造恐怖袭击。但若AI这项利器只被政府掌控，民众又没有能力抗衡，人类依旧没有办法通过狭小的道路──倒向狭路的另一边，可能是乔治·欧威尔所描述的由老大哥监控所有的《1984》，也可能像阿道司·赫胥黎笔下充斥享乐且毫无个人意识的《美丽新世界》。

◢“寄生兽”是当下AI缩影

《权力与进步》和《控制边缘》除了阐述AI的风险，也提出一些具体驾驭AI将风险减至最小的方案。但碍于篇幅，笔者只集中阐述AI会有的负面效应，让读者可以采取更慎重的态度审视AI，而非用短期利益的视角，盲目乐观地推动一股可能带来反扑的浪潮。

日本一套名为《寄生兽》的漫画，故事讲述地球某天出现了无数袍子，从孢子中诞生的怪异幼虫能侵入人类大脑，伪装成人类，而他们的食物来源正是人类，于是带着人形的寄生兽展开杀戮。某只幼虫没成功吞噬男主大脑，反而意外寄宿在男主的左手，于是男主保留自我意识，与被取名为“米奇”的寄生兽共存合作。这部在1980年代末至1990年代初连载的漫画，妥妥就是当下AI的缩影。

AI究竟会吞噬掉人类，抑或成为人类得心应手的工具，将在未来揭晓答案。而一切，将交由人性来掌舵。

相关文章：

银行账号？密码？Sorry，谷歌AI叫我别给
想打广告不会设计图？ Meta的AI工具一键搞定