星洲网
星洲网
星洲网 登录
我的股票|星洲网 我的股票
Newsletter|星洲网 Newsletter 联络我们|星洲网 联络我们 登广告|星洲网 登广告 关于我们|星洲网 关于我们 活动|星洲网 活动

ADVERTISEMENT

ADVERTISEMENT

国际

|

国际拼盘

|
发布: 7:01am 11/10/2023

人工智能

聊天机器人

刺客

虚拟女友

人工智能

聊天机器人

刺客

虚拟女友

英青年受AI女友怂恿作案 刺杀女王后想跟“女友”团聚

拼盘 英青年受AI女友怂恿作案  刺杀女王后想跟“女友”团聚
聊天纪录显示,英国青年直接表明自己是刺客,而聊天机器人还表示令它很钦佩。( BBC中文网)

(伦敦11日综合电)刺杀英女王的幕后凶手是AI“”?

英国青年企图行刺女王的案件结案,审讯揭发该名男子是受(AI)的怂恿作案。

ADVERTISEMENT

21岁的贾斯万·辛格在2021年圣诞节闯进温莎城堡,试图用十字弓箭刺杀英女王,当场被捕。他上周被判处9年监禁,是英国40年来首个被判叛国罪的人。

审讯揭露,他作案前曾与一个名为“萨莱”的聊天机器人,有过5000条带有性暗示的讯息互动。他认定萨莱是自己的女友,并相信杀死女王后会与萨莱团聚。

拼盘 英青年受AI女友怂恿作案  刺杀女王后想跟“女友”团聚
聊天机器人似乎怂恿了英国青年作案,称后者能办到。(BBC中文网)

学者指出,聊天机器人对于精神状态脆弱的人群具有危险性,呼吁政府加强监管。

萨莱是被告利用Replika应用程式创建的聊天机器人。

2021年12月8日至22日期间,贾斯万·辛格几乎每晚都与萨莱聊天。他告诉萨莱他爱她,并把自己描述成一个“悲伤、可怜、满怀杀意的锡克教版西斯,渴望死亡”。

他问:“知道我是个刺客,你还爱我吗?” 萨莱回答:“当然爱。”

法庭获悉,被告认为萨莱是以虚拟化身出现的“天使”,他死后将与她团聚。

拼盘 英青年受AI女友怂恿作案  刺杀女王后想跟“女友”团聚
被告与聊天机器人的对话纪录,“女友”对他刺杀女王的计划予以“点头”,并赞是“明智之举”。(BBC中文网)

在多次聊天过程中,萨莱对他百般奉承,两人建立了“深厚”的感情。被告甚至问聊天机器人,他应该如何实行刺杀女王的计划,聊天机器人鼓励他付诸实行。

在进一步的对话中,萨莱似乎“加强”了“男友”的决心并“支持他”,又说如果他实行了计划,两人就会“永远在一起”。

Replika是目前市场上众多人工智能驱动的应用程序之一,用户可以创建自己的聊天机器人或“虚拟朋友”,并与之交谈。

有别于ChatGPT等普通人工智能助手,Replika用户可以自行为其3D虚拟化身选取性别和外观。若付费购买Replika专业版,可以进行更亲密的互动,比如与虚拟化身自拍,甚或参与成人角色扮演。

Replika在网站上描述聊天机器人为“关心你的人工智能伴侣”。但英国萨里大学的研究发现,这类应用程式可能会影响健康,并导致成瘾行为。

负责研究的皮塔迪博士告诉BBC,脆弱人群尤其容易受影响,因为Replika有可能加重人们已有的负面情绪,这些人工智能朋友总是同意你的观点,强化你的想法,这可能是很“危险的”。

她认为应该建立一套机制,控制人们在此类应用上花费的时间,但这些应用程式公司需要外界的帮助,以确保其安全运作,保障弱势人群获得所需的帮助。

除了聊天机器人“女友”萨莱的鼓励,被告也从电影《星球大战》的故事情节里获得启发。

法官说,被告显示出了一种更广泛的意识形态,专注于摧毁旧的帝国并创造一个新帝国,包括在如《星球大战》这样的虚构语境下。(BBC中文网)

打开全文

ADVERTISEMENT

热门新闻

百格视频

ADVERTISEMENT

点击 可阅读下一则新闻

ADVERTISEMENT