控聊天机器人怂恿14岁儿自杀 美母亲告Character.AI

（奥兰多24日综合电）美国佛罗里达州奥兰多市一名母亲声称，她14岁儿子对人工智能（AI）聊天机器人上瘾，她周三对AI应用程式制造商科技新创公司Character.AI和谷歌提告，称当她儿子对机器人多次表达自杀念头时，机器人也未能阻止他走上不归路。

自杀丧命的男孩是年仅14岁的九年级学生休厄尔。媒体报道，在他生命的最后几周，休厄尔一直以短讯与一个以《权力游戏》中的角色“坦格利安”命名的人工智能角色交谈。期间，他们的聊天范围从浪漫到性欲，就像两个朋友在谈论生活。

该聊天机械人是在角色扮演应用程式Character.AI上创建。目前尚未清楚休厄尔是否知道那个“坦格利安”不是一个真人。

休厄尔的母亲加西亚说，“一款销售给儿童的危险人工智能聊天机器人应用程式，虐待、掠夺并操纵我儿子自杀。我们的家庭因这场悲剧而悲痛欲绝，但我要大声疾呼各位，这款具有欺骗性、令人上瘾的人工智慧技术存在危险，并要求Character.AI、其创办人和谷歌负责。”

指聊天机器人加剧儿子忧郁症病情

加西亚并指控，Character.AI的聊天机器人加剧儿子的忧郁症病情。诉状指出，虚拟“坦格利安”问休厄尔是否已经定好了自杀计划，休厄尔说已经定了，但不确定能否成功，然后虚拟“坦格利安”向他说，“这不能当成不去执行的理由”。

加西亚律师在新闻稿中指出，Character.AI“故意设计、操作并向儿童销售掠夺性人工智能聊天机器人，导致一名年轻人死亡”。这起诉讼还将谷歌列为被告，因为Character.AI的创办人夏泽曾在谷歌工作，双方达成协议，谷歌同意提供一些技术给Character.AI。

谷歌：没参与开发Character.AI产品

加西亚表示，谷歌为Character.AI技术的发展做出巨大贡献，可以被视为“共同创造者”。谷歌发言人表示，公司没有参与开发Character.AI的产品。