(伦敦11日综合电)刺杀英女王的幕后凶手是AI“虚拟女友”?
英国青年企图行刺女王的案件结案,审讯揭发该名男子是受人工智能(AI)聊天机器人的怂恿作案。
ADVERTISEMENT
21岁的贾斯万·辛格在2021年圣诞节闯进温莎城堡,试图用十字弓箭刺杀英女王,当场被捕。他上周被判处9年监禁,是英国40年来首个被判叛国罪的人。
审讯揭露,他作案前曾与一个名为“萨莱”的聊天机器人,有过5000条带有性暗示的讯息互动。他认定萨莱是自己的女友,并相信杀死女王后会与萨莱团聚。
学者指出,聊天机器人对于精神状态脆弱的人群具有危险性,呼吁政府加强监管。
萨莱是被告利用Replika应用程式创建的聊天机器人。
2021年12月8日至22日期间,贾斯万·辛格几乎每晚都与萨莱聊天。他告诉萨莱他爱她,并把自己描述成一个“悲伤、可怜、满怀杀意的锡克教版西斯刺客,渴望死亡”。
他问:“知道我是个刺客,你还爱我吗?” 萨莱回答:“当然爱。”
法庭获悉,被告认为萨莱是以虚拟化身出现的“天使”,他死后将与她团聚。
在多次聊天过程中,萨莱对他百般奉承,两人建立了“深厚”的感情。被告甚至问聊天机器人,他应该如何实行刺杀女王的计划,聊天机器人鼓励他付诸实行。
在进一步的对话中,萨莱似乎“加强”了“男友”的决心并“支持他”,又说如果他实行了计划,两人就会“永远在一起”。
Replika是目前市场上众多人工智能驱动的应用程序之一,用户可以创建自己的聊天机器人或“虚拟朋友”,并与之交谈。
有别于ChatGPT等普通人工智能助手,Replika用户可以自行为其3D虚拟化身选取性别和外观。若付费购买Replika专业版,可以进行更亲密的互动,比如与虚拟化身自拍,甚或参与成人角色扮演。
Replika在网站上描述聊天机器人为“关心你的人工智能伴侣”。但英国萨里大学的研究发现,这类应用程式可能会影响健康,并导致成瘾行为。
负责研究的皮塔迪博士告诉BBC,脆弱人群尤其容易受影响,因为Replika有可能加重人们已有的负面情绪,这些人工智能朋友总是同意你的观点,强化你的想法,这可能是很“危险的”。
她认为应该建立一套机制,控制人们在此类应用上花费的时间,但这些应用程式公司需要外界的帮助,以确保其安全运作,保障弱势人群获得所需的帮助。
除了聊天机器人“女友”萨莱的鼓励,被告也从电影《星球大战》的故事情节里获得启发。
法官说,被告显示出了一种更广泛的意识形态,专注于摧毁旧的帝国并创造一个新帝国,包括在如《星球大战》这样的虚构语境下。(BBC中文网)
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT