发布: 9:32pm 29/12/2023

AI假消息搅动2024超级选举年下篇 | 台六都设指挥中心打击假讯息防深伪影响总统选举

本报国际新闻组/整理报道

距离台湾2024总统大选不到一个月，因应假讯息泛滥，台湾六都地检署早前成立“AI生成或深度伪造假讯息案件处理中心”指挥侦查，目的在做到立即澄清、迅速下架，还要溯源追查主嫌。

为防范AI、深度伪造（Deepfake）技术影响2024年总统大选，台湾最高检察署今年9月底指示六都、7个地检署成立“AI生成或深度伪造假讯息案件处理中心”，由8名主任检察官、6名检察官专案查办。全台重大假讯息案则由台北地检署3名检察官轮班应对。

根据《镜周刊》报道，“AI生成或深度伪造假讯息案件处理中心”由专责检察官全天24小时待命，务求48小时内破案。刑事局今年花费新台币1200万元（约178万令吉），分别从荷兰及美国采买深伪影片和深伪音讯辨识软体。使用这二家厂商的辨识软体，搭配检测一段5分钟的影片，约可在30分钟内知道结果。

4方式判断影片真伪

至于要如何辨识深伪影片？调查局运用4种方式，包括购置商业平台或透过开源平台侦测，以影片伪造的几率高低判断，也可利用传统影像分析判别真伪，包括错误级别分析及杂讯分析。当然，肉眼识别也是重要方法，一般民众也可试借此判别，除了观察基本的生理特征外，也可观察脸部边缘是否模糊或出现色差，或是牙齿、眼镜、饰品出现瑕疵等。

调查局调查官曾婷岳说：“我们可以从眨眼的频率，有可能会出现眨眼的速度不自然的情况，有可能会造成视线方向不一致，也许他的脸是朝这边，可是他眼睛好像看向那边等不自然的情况，以及可能出现遮挡伪影的现象，如果你套用了一张人工合成的模式，你的手在鼻子前面晃动，可能造成你的手不见，这就是遮挡伪影。”

为避免深伪影音影响选举，调查局长王俊力强调，最高检已订出AI生成及深度伪造的办案指引，尤其在投票前24小时，调查局及刑事局都会待命，以最短时间处理。

政府修正选罢法显示打假决心

法务部长蔡清祥也呼吁民众提高警觉，避免深伪技术影响台湾社会。蔡清祥周五接受《自由时报》专访时表示，至12月底，根据统计，检方现有的妨害选举案件，已高达2400多案。

调查局指出，立法院今年6月正式公布修正版的总统副总统选举选罢法、公职人员选举罢免法，未来意图使候选人当选或不当选而散布、播送候选人之深度修造影音，最重处7年以下有期徒刑，借由专法保护、加重罪责，展现政府打击深伪技术犯罪的决心。

此外，选罢法今年修法，新增第51-3条“AI深伪影音”移除之规定，拟参选人与候选人个人影像，如果遭电脑合成或科技方法深度伪造，得请求警察机关鉴识是否为深度伪造之影音，经警察机关认定为深伪影音者，拟参选人与候选人本人得向广电媒体与网络平台要求2日内将“AI深伪影音”下架。

专题下篇主文／防深伪影片影响选举台六都成立指挥中心备战 — 台湾法务部调查局早前示范真实影片（左）与经过AI深度伪造的假影片（右），并解释透过侦测软体、网络开源平台及传统影像分析，均可辨别出影片人物真假差异，呼吁民众不要轻易上当。（法务部调查局提供∕中央社照片）

辨识AI造假影片5步骤

现今AI技术越来越进步，台湾MyGoPen提醒民众看到类似的影片时必须特别警惕，检视方式可以依据：

（一）发布者是否为具公信力的媒体。

（二）影片内容是否有具公信力的媒体报道。

（三）影片在哪个平台发布。

（四）是否找得到影片原始来源。

（五）画面是否模糊不清等方式进行判别。

AI技术尚未成熟勿太担心

学者：民众没那么好骗

英国学者思格接受《时代》杂志采访时表示，AI技术尚未完全成熟，有心人士还不能够单单仰赖AI产出的影像内容传播虚假消息，选民也不见得那么好骗。各国、各机构现阶段需要担心的其实是AI技术的存在本身就已在选民的心中播下疑虑的种子，让民众认为眼见不一定为实。

假讯息已成民主国家考验

英国《经济学人》亦在今年9月指出，早在ChatGPT等生成式AI工具出现前，假讯息就已经成为民主国家面临的问题，像是美国前总统特朗普在2021年使用传统手段传播“美国总统选举被操纵”的想法，引发国会山庄暴动；印度执政党“印度人民党”（BJP）活动人士也曾透过通讯应用程式WhatsApp散播谣言；中国透过看似合法的新闻机构向台湾传播论据，而这些都是在不使用生成式AI工具的情况下完成。

《经济学人》认为，虽然AI传播的讯息的确会使人担忧，但其实选民很难被说服，尤其是在由谁担任总统等政治议题上。就连美国价值数十亿美元的选举产业利用人类说服选民，也只能让他们的行为产生微小的改变。

《经济学人》指出，尽管生成式AI破坏民主的潜力引发注意，但恐慌毫无必要，毕竟在技术进步前，世人就已有相互传播具有破坏力可怕想法的能力。

美选前Google限制查询

聊天机器人无法有问必答

Alphabet旗下的Google（谷歌）本月19日表示，在2024年美国总统大选之前，对于其聊天机器人Bard与搜寻生成体验能回应的问题，Google将限制与选举有关的查询类型。

中央社引述英媒报道，Google表示这些限制将于2024年初实施。

Google表示，将“更加关注人工智能（AI）可能发挥的作用”，因为希望能够服务与选举相关的选民和竞选活动。

Meta禁生成式AI选举广告

脸书（Facebook）母公司Meta也在11月表示，将禁止政治竞选活动和其他受监管行业的广告商，使用其新的生成式人工智能广告产品。

社群网路平台脸书和Instagram（IG）的政治、社会或选举相关广告，如果是以人工智能或其他数位方式创建，广告商必须揭露其编修时间。

Meta的新政策将涵盖任何有关社会问题、选举或政治候选人的广告，包括使用AI修改的真实人物或事件图像。较适度地使用该技术，例如调整影像大小，或使影像更清晰，将无需披露。

根据Meta的新政策，当用户点击广告时，披露使用AI的标签将出现在用户荧幕。这项规定将在明年1月1日生效，而且将在全球范围适用。

微软倡议竞选广告插入数字浮水印

微软（Microsoft）也公布了他们的选举年倡议，包括将准许竞选活动在广告中插入数字浮水印的工具。

这些浮水印旨在协助选民了解创设这些广告的人，并确保其他人无法在不留证据下对广告进行数字更动。

平台X将允投放政治广告

另一方面，正接受欧盟（EU）调查的社群媒体平台X在8月表示，现在将允许候选人和政党在美国投放政治广告。

马斯克拥有的X，计划将在美国大选前扩编其安全和选举团队。

自2019年以来，X平台在全球禁止所有的政治广告。

欧美出手立法监管AI假讯息

美国国会两党以及联邦选举委员会正在探索监管AI技术的措施，但他们尚未敲定任何立法。

得州和加州等部分美国州属，则已在2019年立法，禁止在选前30天或60天传播有政治动机的深伪影像。

欧盟正在立法的AI法草案（AI Act），也要求创作者必须清楚揭示以AI技术创作的内容。

AI假讯息型态分4大类

根据美国智库兰德公司发布的报告，恶意操弄者使用AI制作的假讯息型态大致可以分为4大类：深伪影片（deepfake video，以AI制造影片）、声音复制（voice cloning，以AI伪造极为类似当事人的声音）、深伪影像（deepfake image，以AI制造未曾发生过的场景或人像），及生成式文本（generative texts，以AI书写文本）。