AI語音太逼真恐令人依戀 OpenAI憂影響人際關係

報告中也指稱：“與模型的長期互動可能會影響社會規範，”

“舉個例子，我們的模型是畢恭畢敬的，允許用戶隨時打斷和‘搶麥’。雖然這對於AI來說是意料之中的，但在人類互動中卻是反規範的。”

另外，OpenAI指出，AI在交談時記住細節和處理任務的能力也可能使人們過度依賴這項技術。

AI反抄襲檢測平臺Copyleaks聯合創辦人兼首席執行員雅敏表示：“OpenAI最近所提出對人們可能依賴ChatGPT語音模式的擔憂已表明，許多人已經開始在問：是時候停下來考慮這項技術如何影響人際互動和關係了嗎？”

他說，人工智能永遠不應該取代實際的人際互動。

OpenAI表示，該公司將進一步測試其AI的語音功能如何讓人們產生情感依戀。

負責測試ChatGPT-4o語音功能的團隊也能夠提示它重複虛假訊息並提出陰謀論。這引發了人們對AI模型可能會被要求令人信服地這樣做的擔憂。

今年6月，OpenAI被迫向好萊塢女星史考莉喬漢森（Scarlett Johansson）道歉，因為在其最新的聊天機器人中使用了與她的聲音非常相似的聲音，而這讓語音負責技術成為人們關注的焦點。