AI假消息搅动2024超级选举年 下篇 | 台六都设指挥中心打击假讯息 防深伪影响总统选举

调查局指出，立法院今年6月正式公布修正版的总统副总统选举选罢法、公职人员选举罢免法，未来意图使候选人当选或不当选而散布、播送候选人之深度修造影音，最重处7年以下有期徒刑，借由专法保护、加重罪责，展现政府打击深伪技术犯罪的决心。

此外，选罢法今年修法，新增第51-3条“AI深伪影音”移除之规定，拟参选人与候选人个人影像，如果遭电脑合成或科技方法深度伪造，得请求警察机关鉴识是否为深度伪造之影音，经警察机关认定为深伪影音者，拟参选人与候选人本人得向广电媒体与网络平台要求2日内将“AI深伪影音”下架 。

辨识AI造假影片5步骤

现今AI技术越来越进步，台湾MyGoPen提醒民众看到类似的影片时必须特别警惕，检视方式可以依据：

（一）发布者是否为具公信力的媒体。

（二）影片内容是否有具公信力的媒体报道。

（三）影片在哪个平台发布。

（四）是否找得到影片原始来源。

（五）画面是否模糊不清等方式进行判别。

AI技术尚未成熟 勿太担心

学者：民众没那么好骗

英国学者思格接受《时代》杂志采访时表示，AI技术尚未完全成熟，有心人士还不能够单单仰赖AI产出的影像内容传播虚假消息，选民也不见得那么好骗。各国、各机构现阶段需要担心的其实是AI技术的存在本身就已在选民的心中播下疑虑的种子，让民众认为眼见不一定为实。

假讯息已成民主国家考验

英国《经济学人》亦在今年9月指出，早在ChatGPT等生成式AI工具出现前，假讯息就已经成为民主国家面临的问题，像是美国前总统特朗普在2021年使用传统手段传播“美国总统选举被操纵”的想法，引发国会山庄暴动；印度执政党“印度人民党”（BJP）活动人士也曾透过通讯应用程式WhatsApp散播谣言；中国透过看似合法的新闻机构向台湾传播论据，而这些都是在不使用生成式AI工具的情况下完成。

《经济学人》认为，虽然AI传播的讯息的确会使人担忧，但其实选民很难被说服，尤其是在由谁担任总统等政治议题上。就连美国价值数十亿美元的选举产业利用人类说服选民，也只能让他们的行为产生微小的改变。

《经济学人》指出，尽管生成式AI破坏民主的潜力引发注意，但恐慌毫无必要，毕竟在技术进步前，世人就已有相互传播具有破坏力可怕想法的能力。

美选前Google限制查询

聊天机器人无法有问必答

Alphabet旗下的Google（谷歌）本月19日表示，在2024年美国总统大选之前，对于其聊天机器人Bard与搜寻生成体验能回应的问题，Google将限制与选举有关的查询类型。

中央社引述英媒报道，Google表示这些限制将于2024年初实施。

Google表示，将“更加关注人工智能（AI）可能发挥的作用”，因为希望能够服务与选举相关的选民和竞选活动。

Meta禁生成式AI选举广告

脸书（Facebook）母公司Meta也在11月表示，将禁止政治竞选活动和其他受监管行业的广告商，使用其新的生成式人工智能广告产品。

社群网路平台脸书和Instagram（IG）的政治、社会或选举相关广告，如果是以人工智能或其他数位方式创建，广告商必须揭露其编修时间。

Meta的新政策将涵盖任何有关社会问题、选举或政治候选人的广告，包括使用AI修改的真实人物或事件图像。较适度地使用该技术，例如调整影像大小，或使影像更清晰，将无需披露。

根据Meta的新政策，当用户点击广告时，披露使用AI的标签将出现在用户荧幕。这项规定将在明年1月1日生效，而且将在全球范围适用。

微软倡议竞选广告插入数字浮水印

微软（Microsoft）也公布了他们的选举年倡议，包括将准许竞选活动在广告中插入数字浮水印的工具。

这些浮水印旨在协助选民了解创设这些广告的人，并确保其他人无法在不留证据下对广告进行数字更动。

平台X将允投放政治广告

另一方面，正接受欧盟（EU）调查的社群媒体平台X在8月表示，现在将允许候选人和政党在美国投放政治广告。

马斯克拥有的X，计划将在美国大选前扩编其安全和选举团队。

自2019年以来，X平台在全球禁止所有的政治广告。

欧美出手立法监管AI假讯息

美国国会两党以及联邦选举委员会正在探索监管AI技术的措施，但他们尚未敲定任何立法。

得州和加州等部分美国州属，则已在2019年立法，禁止在选前30天或60天传播有政治动机的深伪影像。

欧盟正在立法的AI法草案（AI Act），也要求创作者必须清楚揭示以AI技术创作的内容。

AI假讯息型态分4大类

根据美国智库兰德公司发布的报告，恶意操弄者使用AI制作的假讯息型态大致可以分为4大类：深伪影片（deepfake video，以AI制造影片）、声音复制（voice cloning，以AI伪造极为类似当事人的声音）、深伪影像（deepfake image，以AI制造未曾发生过的场景或人像），及生成式文本 （generative texts，以AI书写文本）。

错误信息或致投票意愿低落

兰德公司指出，在AI假讯息影响之下，原本就对媒体与政治没信心的选民，会更不知如何相信眼前资讯；甚至可能会造成民众因为无法分辨讯息真假、以决定支持哪一位候选人，最后投票意愿低落。

特朗普在共和党总统初选中的领先地位是错误信息研究人员最关心的问题，他们担心这会加剧选举错误信息，并可能导致选举警戒或暴力。

这位前总统仍然谎称自己赢得了2020年的大选。

华盛顿大学的错误信息专家斯塔伯德说：“特朗普过去显然拥护和煽动了有关选举舞弊的虚假指控。我们可以预期，他可能会继续利用这一点来鼓动他的选民。”

选举官员致力提高选民信任

自2020年以来，选举官员花了数年时间为否定选举的言论可能卷土重来做准备。他们派出团队解释投票过程，聘请外部团体监控出现的错误信息，并加强了计票中心的保安。

明尼苏达州务卿西蒙的办公室率先发起了#TrustedInfo2024运动，这是全国州务卿协会发起的一项新的在线公共教育活动，旨在促进选举官员成为2024年选举信息的可信来源。

在威斯康星州格林湾以北的一个农村县，奥康托县县长皮特莱斯基在该地区巡回演讲，向小团体介绍投票和选举，以提高选民的信任。

AI辅选是把双刃剑

美国CNBC报道，专家们认为，AI辅选有可能改变一场选举的命运，但鉴于许多美国人对政治人物的不信任及人工智能监管的缺乏，它带来的后患也大。

无党派医疗保健倡导组织“United States of Care”首席通讯员员佩雷斯-艾伦表示，AI将有助于对投票模式进行数据分析、制作居民信息以及分析社交媒体习惯。

佩雷斯-艾伦拥有数十年作为政治竞选运动通讯专业人士的经验，并见证了竞选运动随着技术逐步发展。他说，例如，ChatGPT已经在生产候选人的演讲初稿和竞选推广材料，并用于筹款电子邮件和短信。

无法复制面对面接触

但他补充，虽然我们能在讯息收集、数据分析和撰写等几个类别中看到AI的辅助，但它“无法复制人们走访选区，无法复制与选民的面对面接触”。

此外，AI工具可以增加讯息可达性。 佩雷斯-艾伦说：“你不仅是在某人的网站上阅读其政策立场，平台上还会有一个AI聊天机器人给你答案，并在数据的支持下，让你感觉如同直接与竞选活动连线。”

他想到了拉丁裔和其他不同社区的人，他们可用本身的语言和方言获取竞选讯息。翻译和创译也可从AI的使用中受益。