AI假消息搅动2024超级选举年 上篇 | 2024全球多国迎大选年 AI造假料冲击政治生态

深伪造假已对选举构成影响

布伦南司法中心选举和政府项目高级主管诺顿说，深伪造假已对全球各地的选举构成影响。就在斯洛伐克最近选举的前几天，AI生成的录音模仿了一名自由派候选人讨论提高啤酒价格和操纵选举的计划。事实核查人员事后将其定为假信息，但许多人却在社交媒体上当作事实分享出去。

这些工具也可能被用来针对特定的社群，制造关于投票的误导性信息。专家说，这可能看起来像是有说服力的简讯、在WhatsApp上用不同语言分享的关于投票过程的虚假公告，或者是伪造地区政府官网的虚假网站。

宾夕法尼亚大学安嫩伯格公共政策中心主任、错误信息学者贾米森说，面对那些看起来和听起来都很真实的内容:“我们在进化过程中所做的一切都将发挥作用，让我们相信虚构的东西，而不是真实的事实。”

社媒平台将创造更多信息孤岛

抖音和其他监管较少的平台，如Telegram、特朗普的“真相社交”和Gab的兴起，也在网上创造了更多的信息孤岛，毫无根据的言论可以在那里传播。在有色人种和移民群体中特别受欢迎的一些应用程序，比如WhatsApp和微信，这些软件较依赖于私人聊天，这使得外部群体很难看到可能传播的错误信息。

美洲数字民主研究所创始人兼执行董事布拉加说：“我担心，在2024年，我们会看到类似的重复、根深蒂固的虚假叙述和更复杂的策略。但从积极的方面来看，我希望社会对这些事情有更大的适应能力。”

美联社指出，马斯克接管推特，把它转型为X平台后，原有的核实机制不复存在，政府官员的身分很容易被假冒，公司里的资讯查核团队被解散后，用户自己得担起查核的责任，原本被取消的阴谋论者和极端分子的账户也被恢复。

倡导科技和媒体公民权利的非营利组织“自由媒体”的一份报告显示，在2024年之前，X、Meta和YouTube共取消了17项防止仇恨和错误信息的政策。

专家：隐蔽性更强  机器人造假廉价更乱真

由机器人创立的假账号在网上自动发帖，“病毒式传播”假消息，是2016年美国大选给人留下的深刻印象之一。脸书平台估计，约1.26亿美国网民（占选民总人数的一半）看到过社媒上发布的虚假内容。

根据哈佛大学肯尼迪学院研究人员的分析，美国社交平台上所有新闻中可能有5%是完全虚假或具有高度误导性的。

如今各大社媒公司都推出了技术手段，打击由机器人批量注册的“僵尸账号”，但这并不能阻断假消息的生产分发链条。在AI技术帮助下，假消息的生产成本变得更便宜了，而且传播效果更好。

AI可能更快消除“僵尸账号”迹象

美国乔治敦大学政治学教授穆塞尔最近的一项研究算出，一个生成可用文本的AI模型每生产1000万个帖子，可以比组织人工编写假新闻的方式节省300万美元，从而将内容生成成本削减三分之二。更重要的是，大语言模型和机器翻译技术的进步意味着AI可能很快就会消除“僵尸账号”的一些明显迹象，例如糟糕的语法或标点符号错误，这会让社交平台更加防不胜防。

长期担任美国共和党竞选策略师的威尔逊是反特朗普组织“林肯计划”的联合创始人，他表示，一些涉及拜登儿子丑闻的假新闻可能会被发布在极右翼脸书群组等地，通过分享进行传播，然后被主流右翼媒体某个知名人士看到后给予采纳，突然间就成为在主流人群中热烈讨论的话题。“这样做的目的不是为了愚弄高智商选民或主流媒体，他们的目的是欺骗一些信息匮乏的共和党选民，让他们相信并在社交媒体上分享这些内容。一旦主流人群看见有大量类似信息被人分享，可能会动摇他们的想法。”

在印度，政治同行们也发现，由真人传播的假消息要比机器人账号来得更加可信，而且还节约成本。在当地选举中，印度一些选举团队会将精心制作的内容同时扔进几千个WhatsApp群聊里，往往会获得受众自发的大面积转发。（成都商报）

政界科技巨头：AI造假破坏力无法预估

AI对选举产生的巨大影响引起了政界和科技界的普遍关注。在今年一次听证会上，美国参议员们就选举被AI操纵的可能性向专家进行了质问。当时密苏里州共和党参议员霍利表示：“我不希望这个国家的劳动人民和儿童被用作生成式AI技术的小白鼠。”他要求对AI模型进行白名单式准入管理。明尼苏达州民主党参议员克洛布查也表示担心，她认为在选举广告中大量使用AI的情况没有得到足够重视和警惕。

曾在美国前总统奥巴马竞选团队担任数字总监的戈夫此前对媒体表示，“AI还不会创造出我们从未想像过的全新类型的虚假信息，但它会让生成虚假信息变得更容易、更快速、更廉价。其影响将是相当深远的。”

谷歌前首席执行官施密特曾警告，“2024年的选举将一团糟，因为社媒平台无法保护我们免受AI生成的虚假消息的侵害。”创造了Chatgpt的OpenAI首席执行长阿尔特曼表示，“我对AI对未来选举产生的影响感到紧张，至少在每个人都习惯AI之前，这种影响将是巨大的。”

谷歌CEO皮猜此前表示，社会需要为AI快速发展做好准备。他同时强调虚假信息、视频和图像带来的问题要远比人们想像的严重，破坏力无法预估。

（成都商报）

史上首个“AI选战”

阿根廷总统大选 敲响警钟

阿根廷总统大选上个月落幕，此次选举被多家外媒、学者誉为“史上第一个AI选举”，被形容为“阿根廷特朗普”的自由前进党候选人米莱伊以接近56％的得票率赢得选举，但在竞选期间，两名候选人大量运用生成式AI产出的图像、影片，不仅为自己拉票，时不时还祭出一些将对手“魔化”的影像内容，引发外界高度关注。

《纽约时报》日前针对这一现象进行深入报道，指出政治圈近期开始吹起AI风，专家学者普遍认为眼下情况其实类似十余年前各国刚刚学会利用社群平台打选战时的情形，新兴科技不单单是为政治圈提供一系列极具吸引力的新工具，同时也暗藏危机。

《纽约时报》评论道：“AI技术不断进步，使用成本则不断下跌，从现在开始将极有可能成为全球各国民主选举中重要的组成部分。”

马沙竞选团队将AI运用极致

阿根廷执政党候选人马沙的竞选团队，可谓是将AI运用到极致。

《纽约时报》揭露，马沙竞选团队的工程师以及美术团队，先是将阿根廷各党派政治人物的照片上传到深度学习图像生成模型“Stable Diffusion”当中，再以此训练团队自主研发的生成式AI模型，至此之后只要输入指令，便可快速、轻松产出任何以阿根廷政治人物为主角的影像内容。

竞选团队所产出的一些照片、影片就包括苏联政治宣传海报画风的竞选广告，以及让马沙以“印第安纳琼斯”、《魔鬼克星》主角等经典电影角色的形象示人。

团队甚至还将对手米雷伊的影像与好莱坞电影当中的大反派角色结合在一起，以此暗讽米雷伊。

《纽约时报》指出，马沙竞选团队所产出的影像以及竞选广告要嘛会明确标注内容由AI产出，要嘛就是太过离谱、不合乎逻辑，让选民一眼就可以看出那些内容是造假的，但AI内容的价值不在于有多么真实，而是能够让竞选团队以最快的速度，产出最容易在社群平台上引发网民热烈讨论的内容。（远见杂志）

——————————————————————————

精准投放受众操弄风向

AI或左右台湾总统选举

专访:本报驻台湾特派员欧银钏

台湾将在明年1月13日迎来总统和立法院选举，中兴大学行销学系教授曹修源受访时表示，生成式AI产生的内容可以模仿风格，判别式AI则可以精准投放受众，两者结合对于包括台湾在内的各地选举，影响情况绝对是如虎添翼。

曹修源博士具有美国南加州大学电脑科学硕士与澳洲的柯廷大学行销学博士学位。他指出，剑桥分析（CambridgeAnalytica）公司被指控在2016年美国总统选举期间，受雇于特朗普，进行选民心理分析，据称可能影响了选举结果。这个知名的案例就是一个运用判别式AI，未经告知同意的情况下，利用选民资料来预测选举倾向。

威胁民主选举公平性

中兴大学“国家政策”与公共事务研究所教授兼所长潘竞恒也认同，近年各国案例显示AI确能左右选举结果。AI的快速发展，让假信息的产制更加有效率、更拟真，对民主选举的公平性产生更大的威胁。

潘竞恒博士指出，来自内容农场的假讯息，透过高流量、高分享数量，以“新闻”形式在特定社群扩散，对民众认知产生错误的引导。尤其是选举期间操弄风向的资讯战。

他说，生成式AI产制文字接龙、影像讯息的本事或深度伪造的以假乱真，“一本正经地胡说八道”，成为刻意制造假消息者的利器。“目前缓解此问题的药方，无非是是阅听人素养、AI打AI、政府管制。”

潘竞恒认为，对于AI大比拼，只能期待Meta、Google、X等愿意严肃投身社会责任，Cofacts的“工人智能”更努力。至于政府防治假信息的管制政策，在民主国家因言论自由的界线何在而产生治理难题，也成为防范信息攻击的软肋。

假讯息对中间选民有效果 AI不易撼动忠诚度

台南大学数位学习科技系教授兼系主任林豪锵表示，生成式AI可以快速地产生针对性的竞选邮件、讯息或影片，也可以用来误导选民、冒充候选人，甚至以前所未有的规模和速度破坏选举。

不过林豪锵博士指出，误导性的AI生成内容并不意味着它一定会对选举产生影响，选举并非靠认知作战就左右的。“选举的陆海战，忠诚度才是最重要的因素，不易撼动。AI生成内容或许对中间选民有效果，但过度的操作有时也导致反感或反效果。”

林豪锵认为，AI生成的假讯息可能会被用来散播错误资讯或误导选民，这在台湾密集的网络使用环境中尤其危险。台湾政府和民间组织已经开始提高对数位假讯息的警觉，并采取措施来对抗这些威胁。包括提升公众对假讯息辨识的能力，以及加强法律和监管框架来打击不实资讯。

年轻选民或较易受影响

德明财经科技大学资讯管理系教授卢瑞山则表示，在全世界重要选举，AI的影响必然会带来一些负面影响，使得假新闻和偏见加剧、讯息内容过载与激进化、社会分裂和极化。

生成式人工智能对哪一个世代的选民比较有煽动性的影响力？担任亚太区块链发展协会理事的卢瑞山认为，年轻人更倾向于数字媒体和新技术，对于人工智能生成的内容更容易接受。他们更频繁地使用社交媒体和网络，因此是否更容易受到人工智慧生成的内容影响？还是更能做出分辨真假新闻的洞察？探讨研究年轻世代与中老年世代的生成式人工智能感知差异是一个很好的研究议题。

卢瑞山博士强调，在使用或参与生成式AI技术时，我们需要保持理性和责任感，并且尊重事实和真相。但是利益驱使下，生成式人工智能必定会采用在选举手段上，如何提升选民主动怀疑所接触资讯内容正确性的素养以及政府如何扮演监管角色，以确保选举过程中的信息准确性、公平性和透明度，至关重要。

当今选举是资讯科技战

乐宇创意科技公司执行长陈亮宇表示，AI会衍生多种假信息，现代社会是“有图未必有真相”、“有片未必有真相”。运用大数据可以分析每个人的性格、偏好、喜好、政治、心理倾向，进而设定并瞄准市场，投放讯息。因此，现在的选举等于是资讯战、科技战，可以运用人工智能操作认知。

常在多所大学教资讯课程的陈亮宇说，人工智能会影响选情，投票之前的讯息操作，资讯战的对抗是选举胜败的关键，尤其是投放生成的讯息，可以在人物、声音、数据等方面逼真造假，难以辨识，选民宜培养独立思考的能力，接收消息宜多方查证，而且不要轻易分享未经确认的讯息。