(洛杉矶28日综合电)人工智能(AI)的深伪技术已进入世界各地的校园,成为新的霸凌工具,令学子成为受害者,引发各界担忧。
洛杉矶多家媒体周二报道,美国比佛利山一所约有750名6年级到8年级学生的中学的主管与家长上周发现,疑似有学生在网络上散布人工智能AI生成裸照,把同学的脸拼接上裸体。教育官员正展开调查,可能祭出严惩。
ADVERTISEMENT
新科技在校园内成为新的霸凌工具,世界各地越来越多的教育机构都在处理虚假图片、视频和音频问题,包括美国、加拿大、西班牙、巴西都出现与深伪技术(Deepfake)有关的网络霸凌,人们使用“深伪”技术将合法的女学生图像与人造或欺诈的裸照无缝结合。
据报,比佛利山校方和心理辅导员周一到每一间教室与学生谈话,了解学生的心情,也说明事情的严重性。目前仍不清楚有多少学生参与制作、散布这些伪造影像。
据报道,教育官员建议学生家长,与孩子谈论这是“危险行为”,也鼓励孩子与朋友讨论这件事,了解这样捏造影像会造成令人不安及不恰当的后果。
比佛利山联合学区的教育官员表示,根据加州教育法令,任何制作、传布或拥有这一类AI图像的学生都将面临惩处,包括最严重的开除学籍。
在得克萨斯州,据报一名女教师的脸亦被移植到色情视频中一名女性身上。
通过行为生物识别技术检测欺诈的公司BioCatch的鲁登表示,人工智能工具“已经逃出了潘多拉的盒子”,“我们开始看到可以在这里创造出来的潜在损害的规模。”
他指出,如果孩子们能接触到这些工具,已不仅仅是深伪图像的问题,而潜在的风险还扩大至创建受害者的图片以“做一些非法的事,并以此作为勒索金钱或胁迫受害者进行特定行动的方法”。
非自愿深伪色情内容的数量呈爆炸式增长,反映出廉价且易于使用的深伪工具的广泛使用。据美国《连线》杂志报道,一个独立研究人员的研究发现,去年首9个月,有11.3万个深伪色情视频被上传到35个最受欢迎的此类内容网站。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT