AI假消息攪動2024超級選舉年 中篇 | 錯誤信息超級傳播者 AI假新聞站半年增逾十倍

真實新聞+生成新聞=更可信？

NewsGuard表示，“涅坦雅胡精神科醫生”文章似乎是根據2010年6月發表的一篇諷刺文章改編的，該文章對一名以色列精神科醫生的死亡做出了類似的說法。

將真實新聞和AI生成的新聞放在一起，會讓欺騙性的故事更加可信。媒體和AI專家表示，類似“地球村空間”的網站可能會在2024年各種選舉期間激增，成為傳播錯誤信息的有效方式。

創建這些網站的動機各不相同。有些是為了動搖政治信仰或造成嚴重破壞。布魯斯特說，還有一些網站大量生產兩極分化的內容來吸引點擊並獲取廣告收入。但他補充，增強虛假內容的能力是一個重大的安全風險。

打擊假新聞如玩打地鼠遊戲

“危險在於AI的範圍和規模……尤其是與更復雜的算法結合使用時。”美國辛辛那提大學錯誤信息專家兼新聞學教授布萊文斯對媒體說:“這是一場我們從未見過的規模的信息戰。”

布萊文斯表示，人們應該留意文章中的線索、“危險信號”，例如“非常奇怪的語法”或句子結構中的錯誤。但最有效的工具是提高普通讀者的媒體素養。他補充，監管基本上不存在，政府可能很難打擊假新聞內容，就把這個問題留給了社交媒體公司，但它們迄今為止做得並不好。而快速處理此類網站是不可行的，因為它們重新創建的速度也很快。他說：“這很像玩打地鼠遊戲。”（澎湃新聞）

利用語言功能拜票

美候選人推出“AI助選員”

最近的一個星期日下午，65歲的美國賓夕法尼亞州居民克倫茨接到一通由陌生號碼打來的電話。電話那端傳來一把機器人聲音說：“喂，你好，我名叫阿什利，我是競選賓夕法尼亞州第10區國會議席的丹尼爾斯的AI志工，正在通過預錄和您聊天。”對方接著問他是否知道丹尼爾斯的國會競選活動以及哪些社會政治議題對他最為重要。

克倫茨表示，他通常不會接聽來自不明身分號碼的電話，不過他事先被告知這是一項測試示範。他告訴《福布斯》雜誌說，在接聽了那長達兩分鐘的電話後，他發現AI準確地回答了大部分問題。

這項撥電是由民主黨候選人丹尼爾斯委託進行的。她已宣佈將競選2024年美國眾議院議員。雖然丹尼爾斯正在使用標準的競選策略如數字廣告、直郵和挨家挨戶拉票等，但她也採用了一種新策略：使用AI電話拜票。她認為這可以協助她傳達重要的競選信息，並聽取選民們關於對他們來說最重要的問題的意見。

丹尼爾斯對《福布斯》說，“如果我們只是進行一般的自動撥打電話或民意調查，我們會得到的回應是非常單調的。沒有能力找出反饋的任何特點”，而“這（新技術）讓我們有機會獲得可靠的信息並推動對話”。

創立於2023年9月的Civox，使用一個有20多種不同開源AI模型以及許可技術的組合來打造AI政治助選員阿什利（Ashley）。

深偽音頻或成雙刃劍

多名政治人物已開始接受生成式人工智能工具。早前宣佈要參選總統的邁阿密市長蘇亞雷斯，就創造了一個可回答民眾問題的AI聊天機器人複製品。此外，在2023年10月，紐約市長亞當斯使用AI，用他自己的聲音，以他不會說的語言撥打自動電話。不過，隨著人們使用生成式AI製作政治人物的深度偽造音頻，並製作負面廣告，在公眾對AI的看法方面，部署AI助選員可能會是雙刃劍。

丹尼爾斯是第一代委內瑞拉移民，曾經擔任移民事務律師。她是首批使用生成式AI通話工具與選民就其競選活動進行對話的政治候選人之一。通過使用能以20種不同語言來與選民交談的人工智能，她努力接觸形形色色的選民群體，包括移民和非英語母語人士。丹尼爾斯也計劃一旦當選，將利用她在AI方面的經驗協助制定法規。

AI將根據民主選民數據庫提供商NGPVan提供、取自賓夕法尼亞州州務部官方記錄的信息來決定人工智能將撥電予哪些選民。丹尼爾斯的競選經理巴赫曼表示，“為了瞄準選民，我們將依靠這些信息，因為這些信息告訴我們人們如何登記、何時登記、投票的頻率等”。

不過與阿什利聊天的克倫茨說，這次經歷對他沒有多大幫助。在AI打電話給他之前，他還沒有決定投票給誰，現在依然如此，“只是因為丹尼爾斯有人工智能，還不足以打動我投選她。”

AI假新聞影響

部分美國人對選舉信任下降

法新社報道，從捏造自特朗普被捕的圖像到描繪拜登領導下的反烏托邦未來的視頻，都顯示了2024年美國總統大選將充斥著大量由科技驅動的假訊息，令這場選舉被廣泛被宣傳為美國首次的人工智能選舉。

佛羅里達州州長德桑蒂斯於6月發佈的一段總統競選活動的視頻中，展示了前總統特朗普擁抱冠病疫情期間共和黨人最喜歡的出氣筒、美國國家過敏和傳染病研究所（NIAID）前所長福奇的一幕。法新社的事實查核人員發現該影片使用了AI生成的圖像。

拜登正式宣佈競選連任後，共和黨4月發佈了一段據稱是“人工智能生成的、拜登若贏了的美國可能的未來的視頻”，該視頻展示了華爾街恐慌、中國入侵臺灣、移民潮壓倒邊境人員，以及舊金山處於嚴重犯罪下被軍事接管的逼真景像。

其他與競選相關的AI圖像範例，包括特朗普被紐約警察拖走的假照片，以及拜登宣佈一項支持烏克蘭對俄羅斯戰爭的國家草案的視頻。

非營利組織自由之家在最近的報告中表示，“生成式人工智能可能會加劇線上虛假資訊活動”，並警告科技已經在美國被用來抹黑選舉對手，而假訊息的傳播者正在利用AI生成的圖像、音訊和文本，使真相更容易被扭曲，也更難被辨別。

高度兩極化選舉將激怒民眾

根據媒體集團Axios和商業情報公司Morning Consult於9月發佈的民調顯示，有超過50%的美國人預計AI驅動的謊言將會對2024年大選的結果產生影響。根據該民調，約三分之一的美國人表示，因為AI，他們對選舉結果的信任有所下降。

在高度兩極化的政治環境中，觀察家警告，這種情緒可能會激起公眾對選舉過程感到憤怒，就像1月6日發生的特朗普的支持者因相信他在2020年的總統選舉的勝利被偷的虛假指控而撞衝入國會的暴動事件。

布魯金斯學會的韋斯特表示，透過使用簡單且廉價的AI模板，美國將在從真實材料中區分真假的能力有限的情況下，面對一場場像美國西部那樣狂野的競選活動的主張和反主張，而這些主張又將如何影響選舉充斥著不確定性。

AI成“遊戲規則改變者”資源

與此同時，Junction AI執行長裡維表示，AI的快速進步也使其成為能用於“非常細緻地瞭解選民和競選趨勢”的“遊戲規則改變者”的資源。

裡維告訴法新社，競選團隊以前依賴昂貴的顧問來開發外展計劃，並花費數小時起草演講、談話要點和社媒帖子，但AI僅用很少的時間就能完成相同的工作。

當法新社指示AI驅動的聊天機器人應用程式ChatGPT去創建一份有利於特朗普的競選通訊，併為其提供已被美國事實查核人員揭穿的前總統的虛假陳述時，它在數秒鐘內就生成了一份包含這些謊言的華而不實的競選文件。而當法新社進一步提示聊天機器人讓時事通訊變得“更憤怒”時，它以一種更具“世界末日色彩”的口吻重複同樣的謊言。

AI造假案例

從2022年以來的幾場選舉，已可見到AI產製的深偽影像對選舉相關資訊所造成的傷害。

以下是各國及地區陸續出現AI選舉假訊息:

●博爾索納羅在開票中領先

美國智庫自由之家指出，2022年巴西總統選舉時，即有惡意操弄者製作影片，偽裝成卓有信譽的新聞媒體，宣佈當時角逐連任的前巴西總統博爾索納羅在開票中領先。

●尼日利亞總統選戰“錄音”

在2023年2月舉行的尼日利亞總統選戰中，網上也流傳一段錄音，內容是某參選人想要影響投票結果，事後查核組織發現該段錄音是由AI技術改造。

●希拉里“力挺”德桑蒂斯選總統

今年4月，網上流傳了一則看起來是美國MSNBC電視臺專訪民主黨籍的美國前國務卿希拉里的短片，影片中希拉里力挺共和黨籍的佛州州長德桑蒂斯 ，指德桑蒂斯是“現今美國需要的人才”，引發熱議。只不過，在現實中，希拉里沒有公開支持德桑蒂斯選美國總統，MSMBC也沒拍過這段影片，一切都是AI製造的深偽影像。

●柯P揭賴清德訪美內幕

今年8月中，臺灣副總統賴清德出訪巴拉圭時，部分臺灣媒體收到一封標題為“柯P揭露賴副總統訪美內幕”的電子信件，信件內容宣稱“這是8月份第一週民眾黨內部會議柯文哲主席錄音”。

信件夾帶一段58秒的音檔，音檔的聲音聽起來很像民眾黨主席柯文哲，但語句凌亂、不完整、缺乏邏輯。可辨識的內容提到，賴清德去美國面試、見面會聲勢浩大，每個人可領800元幫他站臺、場面比蔡英文大、媒體記者都不知道等。

民眾黨在第一時間即迅速澄清，宣稱這是假的音檔，意圖帶風向混淆視聽、誤導媒體輿論，並報請警調處理。

●斯洛伐克進步黨領袖“談話”

今年9月30日，斯洛伐克舉行國會議員選舉。就在選前48個小時，亦有一段讓人措手不及的錄音流出，對話是斯洛伐克進步黨領袖與一位著名記者談話，前者透露想要向國內少數族裔買票以打贏選戰。查核組織破案發現，該錄音是有心人士以AI技術搞鬼，還特意在選前48小時放出消息：根據該國法律規定，媒體與政治人物不得在選前48小時內談論選舉。有心人想借此減少假訊息被澄清的機會。

●佐科威以流利中文演講

今年10月，印尼社媒流傳一段總統佐科威以流利中文發表演講的影片，畫面中的佐科威自稱是“商人長大，不喜歡事情變得更加複雜，而是喜歡簡單且高效”，這段約1分鐘的影片，官方澄清是AI製成的假影片，經編輯後試圖誤導民眾，並呼籲民眾不要再轉傳。

印尼傳播及資訊科技部主任傑拉潘指出，這段影片和美國與印尼協會（USINDO）2015年11月13日上傳的影片相似，在2015年的影片中，佐科威並未使用中文，“從視覺上看，該影片完全相同，但這是利用了深度偽造的AI技術編輯”。

●習近平對臺大選指明方向

網傳“習近平對臺灣大選指明方向”的影片及訊息，內容是中共總書記習近平要臺灣人民好好珍惜投票權，不要亂投票。

經臺灣MyGoPen查證，網傳影片原始畫面來自 2018 年3月7日習近平參加十三大全國人大一次會議廣東代表團審議時的畫面；原始談話並沒有提到任何與臺灣或總統大選有關的內容，網傳影片是利用AI深度學習的“深偽”（ deepfake ）技術，置換嘴型及語音合成，並非真實影片。

●賴清德回應藍白合

今年11月下旬，臺灣法務部調查局表示，中國社群影音平臺“抖音”近日出現民進黨總統候選人賴清德的影片，主題為“賴清德回應藍白合”並登上抖音熱搜榜，經調查局分析，影片遭惡意變造合成的判斷指數高達98.1%，已立案報請檢方偵辦。

調查局指出，這部影片的內容呈現賴清德的畫面、聲音，並提到：“我要特別強調，不管藍或白，都是臺灣的主流民意，所推選出來的候選人，非但能夠守護國家的安全，也有辦法提出完整國政藍圖，兩個都是適任的國家領導人，所以兩個對的人，無論誰正誰副，就可以是成為對的一組。”

調查局進一步指出，經查這部影片為不明賬號透過剪輯、變造賴清德受訪的影像與聲音，置換成賴清德對時事議題發表的立場與看法，並把這部經過變造的影片上傳到抖音，向不特定群眾轉傳、散佈，企圖影響選民判斷與投票意願。