星洲网
星洲网
星洲网 登录
我的股票|星洲网 我的股票
Newsletter|星洲网 Newsletter 联络我们|星洲网 联络我们 登广告|星洲网 登广告 关于我们|星洲网 关于我们 活动|星洲网 活动

ADVERTISEMENT

ADVERTISEMENT

IBM

2月前
2月前
3月前
3月前
3月前
编按:当我们谈论AI时,我们在谈论什么?是乐观地畅谈AI给人类带来繁荣的科幻世界?抑或遭高度发展的AI反噬后,地球只剩下断壁残垣的灾难场景? 人工智能(Artificial Intelligence,缩写AI)在近几年成为全球热议话题,有人津津乐道,也有人持抵制态度。本文将与大家共享与科技乐观者截然不同的观点,毕竟任何事物都是一体两面,驶向大海的轮船需要慎重评估风险,并妥善准备相关保险措施,才能顺利航向远方,不是吗? 进入主要内容前,让我们先整合自动化人工智能的进展概述。中国科幻小说家郝景芳在《人之彼岸》的后记〈非科幻思考〉里,将AlphaGo作为谈论AI的起始初端。 ◢同是AI,IBM和AlphaGo何不同? 2016年由AI公司DeepMind推出的AlphaGo,打败了全球最顶尖的两位围棋选手。一年后,DeepMind又推出西洋棋AI程式AlphaZero,所有人类西洋棋士都沦落为手下败将。历史上当然也有机器战胜人类的记录,像是1997年IBM开发的深蓝(Deep Blue),这部专门分析国际象棋的超级电脑,战胜了国际象棋世界冠军卡斯帕罗夫;2011年IBM又推出超级电脑沃森(Watson)参加电视智力竞赛节目《Jeopardy!》,击败所有竞争的人类选手。当时也曾引起“机器就要统治人类”的议论,但不久后又回归平静。 而以AlphaGo为代表的新时代人工智能,又有什么不同? 若把机器分为两类,一类就是厨师(人类)教徒弟(机器)每个做菜的步骤,然后徒弟跟着学,就能做出同样一盘菜。另一类者则是厨师(人类)丢给徒弟(机器)一堆材料,徒弟自己试着烹制,结果做出了连厨师也做不出的更美味佳肴。 IBM的超级电脑属于第一类徒弟,AlphaGo为代表的新一代人工智能则是后者。只要将以前的棋谱丢给Alpha,让它自己观察分析棋谱的逻辑脉络,最后再和高手过招增加实践经验,它就学会下棋了。更甚的是,AlphaZero仅花了9个小时和自己对弈,就成为人类棋士无法战胜的存在。 这种学习算法不只能用在下棋,只要稍加改造,还可以生产出更多其他领域的AI。像是现在大热门的聊天机器人程序ChatGPT(符合客观标准地回答所有包罗万象的问题)、图像生成工具程式Midjourney(根据输入的文本自动生成图像)、音乐生成程式Suno(透过输入文字快速创作出高品质旋律和歌词的歌曲)等等。这些Ai核心源自一种称为“深度学习”(Deep Learning)的模型,通过模拟人脑神经元的连接方式,构建出一个由多层神经元组成的大型网络,从而实现对语言的理解和生成。 ◢“超级智慧”也可能失控 面对AI逆天的学习能力,人类是否将被取代? 对于大众的这些担忧,科技领导者通常如此劝慰:AI会带来好处,即使带来害处,那也只是短期问题,且很容易解决。例如DeepMind的共同创办人德米斯·哈萨比斯认为“透过加强人类追求各种方法与原因的能力,AI将会扩大知识的边界,解锁全新的科学发现途径,让数十亿人的生活得以改善。”许多AI专家也持相同想法,认为与AI相关的技术将实现所谓的“超级智慧”(superintelligence)或“奇点”(singularity),让人类享有无限的繁荣,甚至创造出“超人类”(superhuman)。 当然也不是所有科技领头人都如此乐观。比尔·盖兹与伊隆·马斯克就曾表达对超级智慧发展失控的忧虑。但他们并没停下研发AI的脚步,同时也认同其他同业的想法:“大部分技术还是立意良善的”。 两位麻省理工学院教授戴维·奥托(David Autor)与赛门·强森(Simon Johnson)联手撰写的大块书《权力与进步》提到了AI与共享繁荣的愿景联结,并非自然而然的水到渠成。第六章有一段话:“‘技术不利于劳工’这件事一向都是处于选择,而不是追求进步时无可避免的副作用。” ◢技术不保证未来,但制度可以? 《权力与进步》提到过去的一万年间,许多重要的新农业技术,像是中世纪欧洲的风车发明、更好的轮耕制度设计、马匹广泛的使用等,即便提升了农业生产力,却没有改善农夫的生活水准,反而加剧了当时社会的贫富差距。在工业化的第一个世纪也是同样情况,掌握技术的人变得极度富裕,而大部分工人阶级的生活水准严重下降,疾病和污染在城市肆虐。 或许有人会反驳说,后来的情况变好了呀?的确,到了19世纪下半叶情况变得不同,工人的工作条件获得改善,实质薪资大幅成长,城市公共卫生得到改进,但这些都不是因为技术创新带来的好处,而是政治与经济上不断改革与抗争换来的成果。当时的英国,宪章运动与工会兴起让更多非上层阶级的人们获得政治代表权,也扭转了当时政府的不作为。在美国,工会组织与农民抗议促成了同样的局面,整个欧洲因为工厂兴起,让劳工更容易被组织起来,形成一股制衡势力,才迫使主事者必须认真面对问题,把生产力提高后获取的利益拿出来与众人分享。不过许多欧洲的殖民地情况则未得到改善,这里就表过不提了。 上述的历史推演,我们可以简单总结成——技术的兴起,并不能保证美好未来;建立完善的社会制度,才是重中之重。但选择一个怎样的社会制度,往往由“权力”裁决。 如何使用人类的集体知识,决定因素并非单纯从技术或工程层面来考量,而是由掌控权力者来说服其他人接受自己的观点,这些观点往往正符合他们个体的利益。意识到自动化能进一步掌控生产过程,节省人力成本,并削弱劳工的力量,这一小撮人的需求,让现今AI创新的方向以自动化和监控为发展重点,于是还有许多可能带来截然不同影响的道路便被遮蔽了。 ◢科技进步,新病毒也能DIY? 鉴于自动化属性的AI研发已经无法阻挡,那人类该如何自处?可能有些人觉得最糟糕也不过是丢了饭碗,大不了在家躺平啃老。事实上,AI带来的,可能不仅是一大波的失业浪潮。 接下来要分享的内容,出自今年5月发行的《控制边缘》一书。值得关注的是其中一位作者穆斯塔法·苏莱曼(Mustafa Suleyman)的身分,除了现时担任微软执行副总裁兼新部门“Microsoft AI”执行长,还是DeepMind公司的联合创始人,也是之前提到的AlphaGo的开发者之一。 苏莱曼把当前AI的发展状况形容成一条狭隘的路,当技术变得越来越廉价、强大、普遍,而风险持续累积,想要侥幸通过这条狭路,并避免狭路两边的可怕结果(一边是技术权威主义的反乌托邦,另一边是开放带来的灾难),能脱困的机会变得愈发渺茫。 许多书籍、推文、讯息都围绕AI去畅谈未来,却很少人谈论如何“驾驭”AI。 作者提及在COVID-19疫情暴发前不久,他去某著名大学参加科技风险研讨会,其中一位简报者指出,DNA合成器的价格正迅速下降,当这种合成器的价格下跌至数万美元,体积将会小到能放在车库的工作台上,任何一个读过生物学研究所或热衷线上自学的人,都可以自行DIY创造出传播力强且致命的新型病原体。 这位简报者是一位受人敬重的资深教授,他表明这不是科幻小说,而是真实存在的风险。简报最后以一个令人不安的概念结束: “如今,一个人可能‘有能力杀死十亿人’,只要有动机就能办到。” 这场简报的内容在后续几个月一直在苏莱曼脑中盘旋(老实说,笔者读到这段情节后,也跟作者一样不断倒带回想),当时研讨会上的每个人都局促不安移动身子或咳嗽,之后便开始发牢骚和反驳,并且认定这样的事情肯定不会发生、肯定会有一些控制机制、资料库肯定可以锁住…… 没有人想面对他们听到的确切事实与可怕几率带来的影响,就连作者当时也附和了大家的看法。 但事后作者开始质疑:为何自己和其他人没有更认真看待那件事?为什么全部人都只是尴尬地回避进一步的讨论?甚至有些人尖酸指责提出问题的人将科技灾难化,忽视了科技的惊人效益。 为了冷静正视这种趋避悲观的情绪反应,努力找出驾驭AI科技的方案,就成了苏莱曼撰写本书的目的。 作者认为该踏出的第一步,是社会与政治层面的集体反应,而不是个人的单独倡议。那会是一套极其复杂、与社会制度和法律机制互连的技术。而要让社会产生共识,让这套技术尽快完善、摆脱困境是迫在眉梢的最大议题。 AI技术的使用成本下降以及普及化,让世界进入危险的新时代。苏莱曼在《控》第4章与第9章提及,LLM在AI生成合成媒体方面出现惊人进展,所有人都有能力创造及传播极其逼真的内容。极其完美的深伪内容(无论是文本、图像、影片还是音讯),让虚假讯息与诈骗案例铺天盖地无所不在,甚至也让政治传播遇到前所未有的挑战。有意制造不稳定的不良分子,依赖AI科技更容易达到目的。这些行为都破坏了人与人之间的信任,放大了社会的脆弱。 有人认为,把AI交由政府管制,就不会出现极端个体或组织利用AI来制造恐怖袭击。但若AI这项利器只被政府掌控,民众又没有能力抗衡,人类依旧没有办法通过狭小的道路──倒向狭路的另一边,可能是乔治·欧威尔所描述的由老大哥监控所有的《1984》,也可能像阿道司·赫胥黎笔下充斥享乐且毫无个人意识的《美丽新世界》。 ◢“寄生兽”是当下AI缩影 《权力与进步》和《控制边缘》除了阐述AI的风险,也提出一些具体驾驭AI将风险减至最小的方案。但碍于篇幅,笔者只集中阐述AI会有的负面效应,让读者可以采取更慎重的态度审视AI,而非用短期利益的视角,盲目乐观地推动一股可能带来反扑的浪潮。 日本一套名为《寄生兽》的漫画,故事讲述地球某天出现了无数袍子,从孢子中诞生的怪异幼虫能侵入人类大脑,伪装成人类,而他们的食物来源正是人类,于是带着人形的寄生兽展开杀戮。某只幼虫没成功吞噬男主大脑,反而意外寄宿在男主的左手,于是男主保留自我意识,与被取名为“米奇”的寄生兽共存合作。这部在1980年代末至1990年代初连载的漫画,妥妥就是当下AI的缩影。 AI究竟会吞噬掉人类,抑或成为人类得心应手的工具,将在未来揭晓答案。而一切,将交由人性来掌舵。 相关文章: 银行账号?密码?Sorry,谷歌AI叫我别给 想打广告不会设计图? Meta的AI工具一键搞定
5月前
7月前
9月前
12月前
1年前
1年前
2年前
2年前
2年前
2年前
2年前