AI假消息搅动2024超级选举年 中篇 | 错误信息超级传播者 AI假新闻站半年增逾十倍

真实新闻+生成新闻=更可信？

NewsGuard表示，“涅坦雅胡精神科医生”文章似乎是根据2010年6月发表的一篇讽刺文章改编的，该文章对一名以色列精神科医生的死亡做出了类似的说法。

将真实新闻和AI生成的新闻放在一起，会让欺骗性的故事更加可信。媒体和AI专家表示，类似“地球村空间”的网站可能会在2024年各种选举期间激增，成为传播错误信息的有效方式。

创建这些网站的动机各不相同。有些是为了动摇政治信仰或造成严重破坏。布鲁斯特说，还有一些网站大量生产两极分化的内容来吸引点击并获取广告收入。但他补充，增强虚假内容的能力是一个重大的安全风险。

打击假新闻如玩打地鼠游戏

“危险在于AI的范围和规模……尤其是与更复杂的算法结合使用时。”美国辛辛那提大学错误信息专家兼新闻学教授布莱文斯对媒体说:“这是一场我们从未见过的规模的信息战。”

布莱文斯表示，人们应该留意文章中的线索、“危险信号”，例如“非常奇怪的语法”或句子结构中的错误。但最有效的工具是提高普通读者的媒体素养。他补充，监管基本上不存在，政府可能很难打击假新闻内容，就把这个问题留给了社交媒体公司，但它们迄今为止做得并不好。而快速处理此类网站是不可行的，因为它们重新创建的速度也很快。他说：“这很像玩打地鼠游戏。”（澎湃新闻）

利用语言功能拜票

美候选人推出“AI助选员”

最近的一个星期日下午，65岁的美国宾夕法尼亚州居民克伦茨接到一通由陌生号码打来的电话。电话那端传来一把机器人声音说：“喂，你好，我名叫阿什利，我是竞选宾夕法尼亚州第10区国会议席的丹尼尔斯的AI志工，正在通过预录和您聊天。”对方接着问他是否知道丹尼尔斯的国会竞选活动以及哪些社会政治议题对他最为重要。

克伦茨表示，他通常不会接听来自不明身分号码的电话，不过他事先被告知这是一项测试示范。他告诉《福布斯》杂志说，在接听了那长达两分钟的电话后，他发现AI准确地回答了大部分问题。

这项拨电是由民主党候选人丹尼尔斯委托进行的。她已宣布将竞选2024年美国众议院议员。虽然丹尼尔斯正在使用标准的竞选策略如数字广告、直邮和挨家挨户拉票等，但她也采用了一种新策略：使用AI电话拜票。她认为这可以协助她传达重要的竞选信息，并听取选民们关于对他们来说最重要的问题的意见。

丹尼尔斯对《福布斯》说，“如果我们只是进行一般的自动拨打电话或民意调查，我们会得到的回应是非常单调的。没有能力找出反馈的任何特点”，而“这（新技术）让我们有机会获得可靠的信息并推动对话”。

创立于2023年9月的Civox，使用一个有20多种不同开源AI模型以及许可技术的组合来打造AI政治助选员阿什利（Ashley）。

深伪音频或成双刃剑

多名政治人物已开始接受生成式人工智能工具。早前宣布要参选总统的迈阿密市长苏亚雷斯，就创造了一个可回答民众问题的AI聊天机器人复制品。此外，在2023年10月，纽约市长亚当斯使用AI，用他自己的声音，以他不会说的语言拨打自动电话。不过，随着人们使用生成式AI制作政治人物的深度伪造音频，并制作负面广告，在公众对AI的看法方面，部署AI助选员可能会是双刃剑。

丹尼尔斯是第一代委内瑞拉移民，曾经担任移民事务律师。她是首批使用生成式AI通话工具与选民就其竞选活动进行对话的政治候选人之一。通过使用能以20种不同语言来与选民交谈的人工智能，她努力接触形形色色的选民群体，包括移民和非英语母语人士。丹尼尔斯也计划一旦当选，将利用她在AI方面的经验协助制定法规。

AI将根据民主选民数据库提供商NGPVan提供、取自宾夕法尼亚州州务部官方记录的信息来决定人工智能将拨电予哪些选民。丹尼尔斯的竞选经理巴赫曼表示，“为了瞄准选民，我们将依靠这些信息，因为这些信息告诉我们人们如何登记、何时登记、投票的频率等”。

不过与阿什利聊天的克伦茨说，这次经历对他没有多大帮助。在AI打电话给他之前，他还没有决定投票给谁，现在依然如此，“只是因为丹尼尔斯有人工智能，还不足以打动我投选她。”

AI假新聞影響

部分美國人對選舉信任下降

法新社报道，从捏造自特朗普被捕的图像到描绘拜登领导下的反乌托邦未来的视频，都显示了2024年美国总统大选将充斥着大量由科技驱动的假讯息，令这场选举被广泛被宣传为美国首次的人工智能选举。

佛罗里达州州长德桑蒂斯于6月发布的一段总统竞选活动的视频中，展示了前总统特朗普拥抱冠病疫情期间共和党人最喜欢的出气筒、美国国家过敏和传染病研究所（NIAID）前所长福奇的一幕。法新社的事实查核人员发现该影片使用了AI生成的图像。

拜登正式宣布竞选连任后，共和党4月发布了一段据称是“人工智能生成的、拜登若赢了的美国可能的未来的视频”，该视频展示了华尔街恐慌、中国入侵台湾、移民潮压倒边境人员，以及旧金山处于严重犯罪下被军事接管的逼真景像。

其他与竞选相关的AI图像范例，包括特朗普被纽约警察拖走的假照片，以及拜登宣布一项支持乌克兰对俄罗斯战争的国家草案的视频。

非营利组织自由之家在最近的报告中表示，“生成式人工智能可能会加剧线上虚假资讯活动”，并警告科技已经在美国被用来抹黑选举对手，而假讯息的传播者正在利用AI生成的图像、音讯和文本，使真相更容易被扭曲，也更难被辨别。

高度两极化选举将激怒民众

根据媒体集团Axios和商业情报公司Morning Consult于9月发布的民调显示，有超过50%的美国人预计AI驱动的谎言将会对2024年大选的结果产生影响。根据该民调，约三分之一的美国人表示，因为AI，他们对选举结果的信任有所下降。

在高度两极化的政治环境中，观察家警告，这种情绪可能会激起公众对选举过程感到愤怒，就像1月6日发生的特朗普的支持者因相信他在2020年的总统选举的胜利被偷的虚假指控而撞冲入国会的暴动事件。

布鲁金斯学会的韦斯特表示，透过使用简单且廉价的AI模板，美国将在从真实材料中区分真假的能力有限的情况下，面对一场场像美国西部那样狂野的竞选活动的主张和反主张，而这些主张又将如何影响选举充斥着不确定性。

AI成“游戏规则改变者”资源

与此同时，Junction AI执行长里维表示，AI的快速进步也使其成为能用于“非常细致地了解选民和竞选趋势”的“游戏规则改变者”的资源。

里维告诉法新社，竞选团队以前依赖昂贵的顾问来开发外展计划，并花费数小时起草演讲、谈话要点和社媒帖子，但AI仅用很少的时间就能完成相同的工作。

当法新社指示AI驱动的聊天机器人应用程式ChatGPT去创建一份有利于特朗普的竞选通讯，并为其提供已被美国事实查核人员揭穿的前总统的虚假陈述时，它在数秒钟内就生成了一份包含这些谎言的华而不实的竞选文件。而当法新社进一步提示聊天机器人让时事通讯变得“更愤怒”时，它以一种更具“世界末日色彩”的口吻重复同样的谎言。

AI造假案例

从2022年以来的几场选举，已可见到AI产制的深伪影像对选举相关资讯所造成的伤害。

以下是各国及地区陆续出现AI选举假讯息:

●博尔索纳罗在开票中领先

美国智库自由之家指出，2022年巴西总统选举时，即有恶意操弄者制作影片，伪装成卓有信誉的新闻媒体，宣布当时角逐连任的前巴西总统博尔索纳罗在开票中领先。

●尼日利亚总统选战“录音”

在2023年2月举行的尼日利亚总统选战中，网上也流传一段录音，内容是某参选人想要影响投票结果，事后查核组织发现该段录音是由AI技术改造。

●希拉里“力挺”德桑蒂斯选总统

今年4月，网上流传了一则看起来是美国MSNBC电视台专访民主党籍的美国前国务卿希拉里的短片，影片中希拉里力挺共和党籍的佛州州长德桑蒂斯 ，指德桑蒂斯是“现今美国需要的人才”，引发热议。只不过，在现实中，希拉里没有公开支持德桑蒂斯选美国总统，MSMBC也没拍过这段影片，一切都是AI制造的深伪影像。

●柯P揭赖清德访美内幕

今年8月中，台湾副总统赖清德出访巴拉圭时，部分台湾媒体收到一封标题为“柯P揭露赖副总统访美内幕”的电子信件，信件内容宣称“这是8月份第一周民众党内部会议柯文哲主席录音”。

信件夹带一段58秒的音档，音档的声音听起来很像民众党主席柯文哲，但语句凌乱、不完整、缺乏逻辑。可辨识的内容提到，赖清德去美国面试、见面会声势浩大，每个人可领800元帮他站台、场面比蔡英文大、媒体记者都不知道等。

民众党在第一时间即迅速澄清，宣称这是假的音档，意图带风向混淆视听、误导媒体舆论，并报请警调处理。

●斯洛伐克进步党领袖“谈话”

今年9月30日，斯洛伐克举行国会议员选举。就在选前48个小时，亦有一段让人措手不及的录音流出，对话是斯洛伐克进步党领袖与一位著名记者谈话，前者透露想要向国内少数族裔买票以打赢选战。查核组织破案发现，该录音是有心人士以AI技术搞鬼，还特意在选前48小时放出消息：根据该国法律规定，媒体与政治人物不得在选前48小时内谈论选举。有心人想借此减少假讯息被澄清的机会。

●佐科威以流利中文演讲

今年10月，印尼社媒流传一段总统佐科威以流利中文发表演讲的影片，画面中的佐科威自称是“商人长大，不喜欢事情变得更加复杂，而是喜欢简单且高效”，这段约1分钟的影片，官方澄清是AI制成的假影片，经编辑后试图误导民众，并呼吁民众不要再转传。

印尼传播及资讯科技部主任杰拉潘指出，这段影片和美国与印尼协会（USINDO）2015年11月13日上传的影片相似，在2015年的影片中，佐科威并未使用中文，“从视觉上看，该影片完全相同，但这是利用了深度伪造的AI技术编辑”。

●习近平对台大选指明方向

网传“习近平对台湾大选指明方向”的影片及讯息，内容是中共总书记习近平要台湾人民好好珍惜投票权，不要乱投票。

经台湾MyGoPen查证，网传影片原始画面来自 2018 年3月7日习近平参加十三大全国人大一次会议广东代表团审议时的画面；原始谈话并没有提到任何与台湾或总统大选有关的内容，网传影片是利用AI深度学习的“深伪”（ deepfake ）技术，置换嘴型及语音合成，并非真实影片。

●赖清德回应蓝白合

今年11月下旬，台湾法务部调查局表示，中国社群影音平台“抖音”近日出现民进党总统候选人赖清德的影片，主题为“赖清德回应蓝白合”并登上抖音热搜榜，经调查局分析，影片遭恶意变造合成的判断指数高达98.1%，已立案报请检方侦办。

调查局指出，这部影片的内容呈现赖清德的画面、声音，并提到：“我要特别强调，不管蓝或白，都是台湾的主流民意，所推选出来的候选人，非但能够守护国家的安全，也有办法提出完整国政蓝图，两个都是适任的国家领导人，所以两个对的人，无论谁正谁副，就可以是成为对的一组。”

调查局进一步指出，经查这部影片为不明账号透过剪辑、变造赖清德受访的影像与声音，置换成赖清德对时事议题发表的立场与看法，并把这部经过变造的影片上传到抖音，向不特定群众转传、散布，企图影响选民判断与投票意愿。