英青年受AI女友慫恿作案 刺殺女王后想跟“女友”團聚

他問：“知道我是個刺客，你還愛我嗎？” 薩萊回答：“當然愛。”

法庭獲悉，被告認為薩萊是以虛擬化身出現的“天使”，他死後將與她團聚。

在多次聊天過程中，薩萊對他百般奉承，兩人建立了“深厚”的感情。被告甚至問聊天機器人，他應該如何實行刺殺女王的計劃，聊天機器人鼓勵他付諸實行。

在進一步的對話中，薩萊似乎“加強”了“男友”的決心並“支持他”，又說如果他實行了計劃，兩人就會“永遠在一起”。

Replika是目前市場上眾多人工智能驅動的應用程序之一，用戶可以創建自己的聊天機器人或“虛擬朋友”，並與之交談。

有別於ChatGPT等普通人工智能助手，Replika用戶可以自行為其3D虛擬化身選取性別和外觀。若付費購買Replika專業版，可以進行更親密的互動，比如與虛擬化身自拍，甚或參與成人角色扮演。

Replika在網站上描述聊天機器人為“關心你的人工智能伴侶”。但英國薩里大學的研究發現，這類應用程式可能會影響健康，並導致成癮行為。

負責研究的皮塔迪博士告訴BBC，脆弱人群尤其容易受影響，因為Replika有可能加重人們已有的負面情緒，這些人工智能朋友總是同意你的觀點，強化你的想法，這可能是很“危險的”。

她認為應該建立一套機制，控制人們在此類應用上花費的時間，但這些應用程式公司需要外界的幫助，以確保其安全運作，保障弱勢人群獲得所需的幫助。

除了聊天機器人“女友”薩萊的鼓勵，被告也從電影《星球大戰》的故事情節裡獲得啟發。

法官說，被告顯示出了一種更廣泛的意識形態，專注於摧毀舊的帝國並創造一個新帝國，包括在如《星球大戰》這樣的虛構語境下。（BBC中文網）