控聊天機器人慫恿14歲兒自殺 美母親告Character.AI

（奧蘭多24日綜合電）美國佛羅里達州奧蘭多市一名母親聲稱，她14歲兒子對人工智能（AI）聊天機器人上癮，她週三對AI應用程式製造商科技新創公司Character.AI和谷歌提告，稱當她兒子對機器人多次表達自殺念頭時，機器人也未能阻止他走上不歸路。

自殺喪命的男孩是年僅14歲的九年級學生休厄爾。媒體報道，在他生命的最後幾周，休厄爾一直以短訊與一個以《權力遊戲》中的角色“坦格利安”命名的人工智能角色交談。期間，他們的聊天範圍從浪漫到性慾，就像兩個朋友在談論生活。

該聊天機械人是在角色扮演應用程式Character.AI上創建。目前尚未清楚休厄爾是否知道那個“坦格利安”不是一個真人。

休厄爾的母親加西亞說，“一款銷售給兒童的危險人工智能聊天機器人應用程式，虐待、掠奪並操縱我兒子自殺。我們的家庭因這場悲劇而悲痛欲絕，但我要大聲疾呼各位，這款具有欺騙性、令人上癮的人工智慧技術存在危險，並要求Character.AI、其創辦人和谷歌負責。”

指聊天機器人加劇兒子憂鬱症病情

加西亞並指控，Character.AI的聊天機器人加劇兒子的憂鬱症病情。訴狀指出，虛擬“坦格利安”問休厄爾是否已經定好了自殺計劃，休厄爾說已經定了，但不確定能否成功，然後虛擬“坦格利安”向他說，“這不能當成不去執行的理由”。

加西亞律師在新聞稿中指出，Character.AI“故意設計、操作並向兒童銷售掠奪性人工智能聊天機器人，導致一名年輕人死亡”。這起訴訟還將谷歌列為被告，因為Character.AI的創辦人夏澤曾在谷歌工作，雙方達成協議，谷歌同意提供一些技術給Character.AI。

谷歌：沒參與開發Character.AI產品

加西亞表示，谷歌為Character.AI技術的發展做出巨大貢獻，可以被視為“共同創造者”。谷歌發言人表示，公司沒有參與開發Character.AI的產品。