(洛杉磯28日綜合電)人工智能(AI)的深偽技術已進入世界各地的校園,成為新的霸凌工具,令學子成為受害者,引發各界擔憂。
洛杉磯多家媒體週二報道,美國比佛利山一所約有750名6年級到8年級學生的中學的主管與家長上週發現,疑似有學生在網絡上散佈人工智能AI生成裸照,把同學的臉拼接上裸體。教育官員正展開調查,可能祭出嚴懲。
ADVERTISEMENT
新科技在校園內成為新的霸凌工具,世界各地越來越多的教育機構都在處理虛假圖片、視頻和音頻問題,包括美國、加拿大、西班牙、巴西都出現與深偽技術(Deepfake)有關的網絡霸凌,人們使用“深偽”技術將合法的女學生圖像與人造或欺詐的裸照無縫結合。
據報,比佛利山校方和心理輔導員週一到每一間教室與學生談話,瞭解學生的心情,也說明事情的嚴重性。目前仍不清楚有多少學生參與制作、散佈這些偽造影像。
據報道,教育官員建議學生家長,與孩子談論這是“危險行為”,也鼓勵孩子與朋友討論這件事,瞭解這樣捏造影像會造成令人不安及不恰當的後果。
比佛利山聯合學區的教育官員表示,根據加州教育法令,任何製作、傳佈或擁有這一類AI圖像的學生都將面臨懲處,包括最嚴重的開除學籍。
在得克薩斯州,據報一名女教師的臉亦被移植到色情視頻中一名女性身上。
通過行為生物識別技術檢測欺詐的公司BioCatch的魯登表示,人工智能工具“已經逃出了潘多拉的盒子”,“我們開始看到可以在這裡創造出來的潛在損害的規模。”
他指出,如果孩子們能接觸到這些工具,已不僅僅是深偽圖像的問題,而潛在的風險還擴大至創建受害者的圖片以“做一些非法的事,並以此作為勒索金錢或脅迫受害者進行特定行動的方法”。
非自願深偽色情內容的數量呈爆炸式增長,反映出廉價且易於使用的深偽工具的廣泛使用。據美國《連線》雜誌報道,一個獨立研究人員的研究發現,去年首9個月,有11.3萬個深偽色情視頻被上傳到35個最受歡迎的此類內容網站。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT