AI假消息攪動2024超級選舉年 上篇 | 2024全球多國迎大選年 AI造假料衝擊政治生態

深偽造假已對選舉構成影響

布倫南司法中心選舉和政府項目高級主管諾頓說，深偽造假已對全球各地的選舉構成影響。就在斯洛伐克最近選舉的前幾天，AI生成的錄音模仿了一名自由派候選人討論提高啤酒價格和操縱選舉的計劃。事實核查人員事後將其定為假信息，但許多人卻在社交媒體上當作事實分享出去。

這些工具也可能被用來針對特定的社群，製造關於投票的誤導性信息。專家說，這可能看起來像是有說服力的簡訊、在WhatsApp上用不同語言分享的關於投票過程的虛假公告，或者是偽造地區政府官網的虛假網站。

賓夕法尼亞大學安嫩伯格公共政策中心主任、錯誤信息學者賈米森說，面對那些看起來和聽起來都很真實的內容:“我們在進化過程中所做的一切都將發揮作用，讓我們相信虛構的東西，而不是真實的事實。”

社媒平臺將創造更多信息孤島

抖音和其他監管較少的平臺，如Telegram、特朗普的“真相社交”和Gab的興起，也在網上創造了更多的信息孤島，毫無根據的言論可以在那裡傳播。在有色人種和移民群體中特別受歡迎的一些應用程序，比如WhatsApp和微信，這些軟件較依賴於私人聊天，這使得外部群體很難看到可能傳播的錯誤信息。

美洲數字民主研究所創始人兼執行董事布拉加說：“我擔心，在2024年，我們會看到類似的重複、根深蒂固的虛假敘述和更復雜的策略。但從積極的方面來看，我希望社會對這些事情有更大的適應能力。”

美聯社指出，馬斯克接管推特，把它轉型為X平臺後，原有的核實機制不復存在，政府官員的身分很容易被假冒，公司裡的資訊查核團隊被解散後，用戶自己得擔起查核的責任，原本被取消的陰謀論者和極端分子的賬戶也被恢復。

倡導科技和媒體公民權利的非營利組織“自由媒體”的一份報告顯示，在2024年之前，X、Meta和YouTube共取消了17項防止仇恨和錯誤信息的政策。

專家：隱蔽性更強  機器人造假廉價更亂真

由機器人創立的假賬號在網上自動發帖，“病毒式傳播”假消息，是2016年美國大選給人留下的深刻印象之一。臉書平臺估計，約1.26億美國網民（佔選民總人數的一半）看到過社媒上發佈的虛假內容。

根據哈佛大學肯尼迪學院研究人員的分析，美國社交平臺上所有新聞中可能有5%是完全虛假或具有高度誤導性的。

如今各大社媒公司都推出了技術手段，打擊由機器人批量註冊的“殭屍賬號”，但這並不能阻斷假消息的生產分發鏈條。在AI技術幫助下，假消息的生產成本變得更便宜了，而且傳播效果更好。

AI可能更快消除“殭屍賬號”跡象

美國喬治敦大學政治學教授穆塞爾最近的一項研究算出，一個生成可用文本的AI模型每生產1000萬個帖子，可以比組織人工編寫假新聞的方式節省300萬美元，從而將內容生成成本削減三分之二。更重要的是，大語言模型和機器翻譯技術的進步意味著AI可能很快就會消除“殭屍賬號”的一些明顯跡象，例如糟糕的語法或標點符號錯誤，這會讓社交平臺更加防不勝防。

長期擔任美國共和黨競選策略師的威爾遜是反特朗普組織“林肯計劃”的聯合創始人，他表示，一些涉及拜登兒子醜聞的假新聞可能會被髮布在極右翼臉書群組等地，通過分享進行傳播，然後被主流右翼媒體某個知名人士看到後給予採納，突然間就成為在主流人群中熱烈討論的話題。“這樣做的目的不是為了愚弄高智商選民或主流媒體，他們的目的是欺騙一些信息匱乏的共和黨選民，讓他們相信並在社交媒體上分享這些內容。一旦主流人群看見有大量類似信息被人分享，可能會動搖他們的想法。”

在印度，政治同行們也發現，由真人傳播的假消息要比機器人賬號來得更加可信，而且還節約成本。在當地選舉中，印度一些選舉團隊會將精心製作的內容同時扔進幾千個WhatsApp群聊裡，往往會獲得受眾自發的大面積轉發。（成都商報）

政界科技巨頭：AI造假破壞力無法預估

AI對選舉產生的巨大影響引起了政界和科技界的普遍關注。在今年一次聽證會上，美國參議員們就選舉被AI操縱的可能性向專家進行了質問。當時密蘇里州共和黨參議員霍利表示：“我不希望這個國家的勞動人民和兒童被用作生成式AI技術的小白鼠。”他要求對AI模型進行白名單式准入管理。明尼蘇達州民主黨參議員克洛布查也表示擔心，她認為在選舉廣告中大量使用AI的情況沒有得到足夠重視和警惕。

曾在美國前總統奧巴馬競選團隊擔任數字總監的戈夫此前對媒體表示，“AI還不會創造出我們從未想像過的全新類型的虛假信息，但它會讓生成虛假信息變得更容易、更快速、更廉價。其影響將是相當深遠的。”

谷歌前首席執行官施密特曾警告，“2024年的選舉將一團糟，因為社媒平臺無法保護我們免受AI生成的虛假消息的侵害。”創造了Chatgpt的OpenAI首席執行長阿爾特曼表示，“我對AI對未來選舉產生的影響感到緊張，至少在每個人都習慣AI之前，這種影響將是巨大的。”

谷歌CEO皮猜此前表示，社會需要為AI快速發展做好準備。他同時強調虛假信息、視頻和圖像帶來的問題要遠比人們想像的嚴重，破壞力無法預估。

（成都商報）

史上首個“AI選戰”

阿根廷總統大選 敲響警鐘

阿根廷總統大選上個月落幕，此次選舉被多家外媒、學者譽為“史上第一個AI選舉”，被形容為“阿根廷特朗普”的自由前進黨候選人米萊伊以接近56％的得票率贏得選舉，但在競選期間，兩名候選人大量運用生成式AI產出的圖像、影片，不僅為自己拉票，時不時還祭出一些將對手“魔化”的影像內容，引發外界高度關注。

《紐約時報》日前針對這一現象進行深入報道，指出政治圈近期開始吹起AI風，專家學者普遍認為眼下情況其實類似十餘年前各國剛剛學會利用社群平臺打選戰時的情形，新興科技不單單是為政治圈提供一系列極具吸引力的新工具，同時也暗藏危機。

《紐約時報》評論道：“AI技術不斷進步，使用成本則不斷下跌，從現在開始將極有可能成為全球各國民主選舉中重要的組成部分。”

馬沙競選團隊將AI運用極致

阿根廷執政黨候選人馬沙的競選團隊，可謂是將AI運用到極致。

《紐約時報》揭露，馬沙競選團隊的工程師以及美術團隊，先是將阿根廷各黨派政治人物的照片上傳到深度學習圖像生成模型“Stable Diffusion”當中，再以此訓練團隊自主研發的生成式AI模型，至此之後只要輸入指令，便可快速、輕鬆產出任何以阿根廷政治人物為主角的影像內容。

競選團隊所產出的一些照片、影片就包括蘇聯政治宣傳海報畫風的競選廣告，以及讓馬沙以“印第安納瓊斯”、《魔鬼剋星》主角等經典電影角色的形象示人。

團隊甚至還將對手米雷伊的影像與好萊塢電影當中的大反派角色結合在一起，以此暗諷米雷伊。

《紐約時報》指出，馬沙競選團隊所產出的影像以及競選廣告要嘛會明確標註內容由AI產出，要嘛就是太過離譜、不合乎邏輯，讓選民一眼就可以看出那些內容是造假的，但AI內容的價值不在於有多麼真實，而是能夠讓競選團隊以最快的速度，產出最容易在社群平臺上引發網民熱烈討論的內容。（遠見雜誌）

——————————————————————————

精準投放受眾操弄風向

AI或左右臺灣總統選舉

專訪:本報駐臺灣特派員歐銀釧

臺灣將在明年1月13日迎來總統和立法院選舉，中興大學行銷學系教授曹修源受訪時表示，生成式AI產生的內容可以模仿風格，判別式AI則可以精準投放受眾，兩者結合對於包括臺灣在內的各地選舉，影響情況絕對是如虎添翼。

曹修源博士具有美國南加州大學電腦科學碩士與澳洲的柯廷大學行銷學博士學位。他指出，劍橋分析（CambridgeAnalytica）公司被指控在2016年美國總統選舉期間，受僱於特朗普，進行選民心理分析，據稱可能影響了選舉結果。這個知名的案例就是一個運用判別式AI，未經告知同意的情況下，利用選民資料來預測選舉傾向。

威脅民主選舉公平性

中興大學“國家政策”與公共事務研究所教授兼所長潘競恆也認同，近年各國案例顯示AI確能左右選舉結果。AI的快速發展，讓假信息的產製更加有效率、更擬真，對民主選舉的公平性產生更大的威脅。

潘競恆博士指出，來自內容農場的假訊息，透過高流量、高分享數量，以“新聞”形式在特定社群擴散，對民眾認知產生錯誤的引導。尤其是選舉期間操弄風向的資訊戰。

他說，生成式AI產製文字接龍、影像訊息的本事或深度偽造的以假亂真，“一本正經地胡說八道”，成為刻意製造假消息者的利器。“目前緩解此問題的藥方，無非是是閱聽人素養、AI打AI、政府管制。”

潘競恆認為，對於AI大比拼，只能期待Meta、Google、X等願意嚴肅投身社會責任，Cofacts的“工人智能”更努力。至於政府防治假信息的管制政策，在民主國家因言論自由的界線何在而產生治理難題，也成為防範信息攻擊的軟肋。

假訊息對中間選民有效果 AI不易撼動忠誠度

臺南大學數位學習科技系教授兼系主任林豪鏘表示，生成式AI可以快速地產生針對性的競選郵件、訊息或影片，也可以用來誤導選民、冒充候選人，甚至以前所未有的規模和速度破壞選舉。

不過林豪鏘博士指出，誤導性的AI生成內容並不意味著它一定會對選舉產生影響，選舉並非靠認知作戰就左右的。“選舉的陸海戰，忠誠度才是最重要的因素，不易撼動。AI生成內容或許對中間選民有效果，但過度的操作有時也導致反感或反效果。”

林豪鏘認為，AI生成的假訊息可能會被用來散播錯誤資訊或誤導選民，這在臺灣密集的網絡使用環境中尤其危險。臺灣政府和民間組織已經開始提高對數位假訊息的警覺，並採取措施來對抗這些威脅。包括提升公眾對假訊息辨識的能力，以及加強法律和監管框架來打擊不實資訊。

年輕選民或較易受影響

德明財經科技大學資訊管理系教授盧瑞山則表示，在全世界重要選舉，AI的影響必然會帶來一些負面影響，使得假新聞和偏見加劇、訊息內容過載與激進化、社會分裂和極化。

生成式人工智能對哪一個世代的選民比較有煽動性的影響力？擔任亞太區塊鏈發展協會理事的盧瑞山認為，年輕人更傾向於數字媒體和新技術，對於人工智能生成的內容更容易接受。他們更頻繁地使用社交媒體和網絡，因此是否更容易受到人工智慧生成的內容影響？還是更能做出分辨真假新聞的洞察？探討研究年輕世代與中老年世代的生成式人工智能感知差異是一個很好的研究議題。

盧瑞山博士強調，在使用或參與生成式AI技術時，我們需要保持理性和責任感，並且尊重事實和真相。但是利益驅使下，生成式人工智能必定會採用在選舉手段上，如何提升選民主動懷疑所接觸資訊內容正確性的素養以及政府如何扮演監管角色，以確保選舉過程中的信息準確性、公平性和透明度，至關重要。

當今選舉是資訊科技戰

樂宇創意科技公司執行長陳亮宇表示，AI會衍生多種假信息，現代社會是“有圖未必有真相”、“有片未必有真相”。運用大數據可以分析每個人的性格、偏好、喜好、政治、心理傾向，進而設定並瞄準市場，投放訊息。因此，現在的選舉等於是資訊戰、科技戰，可以運用人工智能操作認知。

常在多所大學教資訊課程的陳亮宇說，人工智能會影響選情，投票之前的訊息操作，資訊戰的對抗是選舉勝敗的關鍵，尤其是投放生成的訊息，可以在人物、聲音、數據等方面逼真造假，難以辨識，選民宜培養獨立思考的能力，接收消息宜多方查證，而且不要輕易分享未經確認的訊息。