(旧金山1日法新电)近期火爆的人工智能(AI)聊天机器人的所有者、AI研究初创公司OpenAI周二推出了一项新工具,旨在弄清文本是人类还是计算机写的。
这一消息发布之际,美国和世界各地的学府正展开激烈辩论,人们担心该软件可能被用来帮助学生完成作业,并帮助他们在考试中作弊,影响学生学习。
ADVERTISEMENT
总部位于美国的OpenAI公司周二在一篇博客文章中表示,其检测工具已通过测试,“能够区分人类编写的文本和来自各种提供商的AI编写的文本”。
OpenAI最近获得了微软的大笔注资,其机器人会根据从互联网上收集的数据,用大量文本回应简单的提示。
不过该公司提醒道,其工具可能会出错,尤其是在文本长度少于1000个字符时。
OpenAI在帖子中表示:“尽管不可能可靠地检测出所有人工智能编写的文本,但我们相信,良好的分类器可以帮助缓解AI生成的文本是由人类编写的错误说法。”
“例如,自动开展虚假信息宣传活动,使用AI工具进行学术欺诈,以及将AI聊天机器人定位为人类。”
上周,法国一所顶尖大学禁止学生使用ChatGPT完成作业,这是法国首例此类禁令。
此前不久,有消息称ChatGPT通过了美国一所法学院的考试,其撰写的文章涵盖了从宪法到税收等一系列主题。
ChatGPT仍然会犯事实认识错误,但教育机构已急于禁止这一AI工具。
OpenAI在帖子中说:“我们认识到,识别AI编写的文本一直是教育工作者讨论的一个重要问题,认识到AI生成的文本分类器在课堂上的限制和影响同样重要。”
“我们正在与美国的教育工作者接触,了解他们在课堂所见,并讨论ChatGPT的能力和局限性。”
纽约和其他司法管辖区的官员已禁止在学校使用这款AI软件。
澳洲一些大学表示,他们将改变考试形式,以此避免学生滥用AI工具,并将其视为作弊。
OpenAI表示,不建议将其用于英语以外的其他语言。,因为其在其他语言中的表现更差。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT