容易產生“幻覺” 新研究：AI法律研究工具不可靠
（沙加緬度9日新華電）據新華社報道，美國斯坦福大學和耶魯大學的研究人員進行的一項新研究，引發了人們對用於法律研究的人工智能(AI)工具的可靠性的擔憂，並敦促律師對AI保持謹慎。
這項名為“無幻覺？”評估領先的AI法律研究工具的可靠性”，研究了律師用於法律研究的不同AI工具，以評估產生被稱為“幻覺”的虛假信息的可能性。
ADVERTISEMENT
律師越來越多地使用AI工具來協助他們的法律實踐。然而，斯坦福大學網站上發表的這項研究的作者說，在這些工具中使用的大型語言模型容易產生“幻覺”，從而給他們的實踐帶來風險。
一些AI工具的製造商聲稱他們已解決了這個問題，但研究人員發現他們的說法“言過其實”。
這項研究測試了LexisNexis和湯森路透推出的熱門AI工具，發現它們的錯誤率為17%至33%。
根據這項研究，當AI工具引用不存在的法律規則或誤解法律先例時，就會產生一些“幻覺”。
該研究引用了之前的研究，表明截至2024年1月，美國前100家最大的律師事務所中，至少有41家已經開始在他們的實踐中使用AI。
研究報告作者呼籲律師監督和驗證AI生成的輸出，同時敦促AI工具提供商對其產品的準確性保持誠實，並提供證據來支持它們。
字
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
