避免AI干預選舉 OpenAI擬開發打假工具
（舊金山19日法新電）AI聊天機器人ChatGPT所有者OpenAI表示，即將發佈反假信息的工具，時機正值今年是全球史上最大規模的“大選年”，各國的選舉將覆蓋全球近一半人口。
ChatGPT的橫空出世引發一場全球AI革命，但也引發人們的警惕，即此類工具可能會在互聯網上散播虛假信息，影響選民。
ADVERTISEMENT
今年美國、印度和英國等國將舉行大選，OpenAI週一表示，不會允許其技術、包括ChatGPT和圖像生成工具DALL-E被用於政治競選。
OpenAI在一篇博客文章中表示，“我們希望確保我們的技術不會被用於可能破壞民主進程的方式。”
該公司補充說，“我們正在評估我們的工具在個性化說服方面的有效性。在有更多瞭解之前，我們不允許將其用於政治競選和遊說活動。”
世界經濟論壇（WEF）在上週發佈的一份報告中警告稱，AI驅動的錯誤訊息和惡意假訊息是最大的短期風險，可能會破壞主要經濟體新當選的政府。
專家表示，對選舉虛假信息的擔憂在多年前就已出現，但強大的AI文本和圖像生成器的公開可用性加劇了這種威脅，特別是如果用戶無法輕易判斷他們看到的內容是假的還是被操縱的。
使生成文本附可靠歸屬
OpenAI週一表示，正在開發一種工具，可以為ChatGPT生成的文本附加可靠的歸屬，並讓用戶能夠檢測圖像是否使用DALL-E 3創建。
該公司表示：“今年年初，我們將實施內容來源和真實性聯盟（C2PA）的數字證書，這是一種使用加密技術對內容來源細節進行編碼的方法。”
C2PA旨在改進識別和追蹤數字內容的方法。其成員包括微軟、索尼、Adobe以及日本的成像公司尼康和佳能。
OpenAI表示，當被問及有關美國選舉的程序性問題（如在哪裡投票）時，ChatGPT將引導用戶前往權威網站。
該公司表示：“這項工作的經驗將為我們在其他國家和地區的做法提供參考。”
DALL-E 3有“護欄”
它補充，DALL-E 3有“護欄”，可以防止用戶生成真人的圖像，包括候選人。
去年，美國科技巨頭谷歌和臉書母公司Meta公佈了限制選舉干預的措施，特別是通過使用AI。
此前，法新社已揭露了多個深度造假視頻，包括美國總統拜登宣佈徵兵，以及前國務卿希拉里宣佈支持佛州州長德桑蒂斯競選總統等。
儘管這些內容的質量很低，而且目前還不清楚是否由AI應用程序創建，但專家們表示，虛假信息正在加劇人們對政治機構的信任危機。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
