張念群：用換臉技術 警惕AI視頻騙投資

（吉隆坡5日訊）通訊部副部長張念群提醒社交媒體用戶，謹慎預防不法之徒利用人工智能（AI）製作的視頻內容進行詐騙。

她舉例，早前社交媒體曾流傳一則不法人士利用AI換臉技術盜用首相拿督斯里安華的肖像，並指某個投資計劃可賺取豐富回酬。

“我們已將該視頻的鏈接發送至Meta公司，並要求該公司在其社媒平臺撤除此視頻。

“我們並非首次接獲此事件的投報，即利用AI換臉技術生成安華的視頻以進行投資詐騙，因此，我們必須對此事件保持謹慎。”

張念群今日為2024年第20屆亞太廣播聯盟（ABU），主題為“引領人工智能地平線”的數碼廣播研討會主持開幕禮後指出，社交平臺供應商如Meta、谷歌及TikTok都必須設法通報AI換臉技術的內容，以避免用戶上當，政府也在研究加強與社交媒體平臺的合作，以解決這個問題。

廣播業者需謹慎用AI

此外，張念群指出，廣播業者在探索AI技術時都必須謹慎行事，因為AI的創新和加速的步伐帶來一系列道德、社會和監管方面的考量，因此必須對AI在未來的挑戰和複雜性保持警惕性。

“AI所造成的社會問題、算法偏差和數據隱私的問題，都需要通過符合道德倫理的深思熟慮，以採取積極措施確保AI是以符合道德、透明及公平的觀念開發和部署。”

她也說，大馬廣播電視臺（RTM）在其新聞數字檔案系統（ADIB）運用AI技術而獲得國際獎項，RTM也使用Avatar頭像來代表主持人主持節目亮點，使用圖像提示器和AI語音庫，因此，AI的運用將使廣播媒體業者提高運營。

另一方面，張念群說，通訊部將透過敦拉薩廣播及新聞學院（IPPTAR）提供的課程包括VR操作系統、運用AI於廣播電視產業等課程以確保廣播媒體從業者能做足準備應對科技技術的轉變。

而移動新聞（MOJO）遠程運作系統課程將於今年起開始授課，教學對象為各領域業者，以確保各行各業都能掌握AI技能。