AI语音太逼真恐令人依恋 OpenAI忧影响人际关系

报告中也指称：“与模型的长期互动可能会影响社会规范，”

“举个例子，我们的模型是毕恭毕敬的，允许用户随时打断和‘抢麦’。虽然这对于AI来说是意料之中的，但在人类互动中却是反规范的。”

另外，OpenAI指出，AI在交谈时记住细节和处理任务的能力也可能使人们过度依赖这项技术。

AI反抄袭检测平台Copyleaks联合创办人兼首席执行员雅敏表示：“OpenAI最近所提出对人们可能依赖ChatGPT语音模式的担忧已表明，许多人已经开始在问：是时候停下来考虑这项技术如何影响人际互动和关系了吗？”

他说，人工智能永远不应该取代实际的人际互动。

OpenAI表示，该公司将进一步测试其AI的语音功能如何让人们产生情感依恋。

负责测试ChatGPT-4o语音功能的团队也能够提示它重复虚假讯息并提出阴谋论。这引发了人们对AI模型可能会被要求令人信服地这样做的担忧。

今年6月，OpenAI被迫向好莱坞女星史考莉乔汉森（Scarlett Johansson）道歉，因为在其最新的聊天机器人中使用了与她的声音非常相似的声音，而这让语音负责技术成为人们关注的焦点。