ChatGPT推出新工具 可检测文本是否由AI生成
（旧金山1日法新电）近期火爆的人工智能（AI）聊天机器人的所有者、AI研究初创公司OpenAI周二推出了一项新工具，旨在弄清文本是人类还是计算机写的。
这一消息发布之际，美国和世界各地的学府正展开激烈辩论，人们担心该软件可能被用来帮助学生完成作业，并帮助他们在考试中作弊，影响学生学习。
ADVERTISEMENT
总部位于美国的OpenAI公司周二在一篇博客文章中表示，其检测工具已通过测试，“能够区分人类编写的文本和来自各种提供商的AI编写的文本”。
OpenAI最近获得了微软的大笔注资，其机器人会根据从互联网上收集的数据，用大量文本回应简单的提示。
不过该公司提醒道，其工具可能会出错，尤其是在文本长度少于1000个字符时。
OpenAI在帖子中表示：“尽管不可能可靠地检测出所有人工智能编写的文本，但我们相信，良好的分类器可以帮助缓解AI生成的文本是由人类编写的错误说法。”
“例如，自动开展虚假信息宣传活动，使用AI工具进行学术欺诈，以及将AI聊天机器人定位为人类。”
上周，法国一所顶尖大学禁止学生使用ChatGPT完成作业，这是法国首例此类禁令。
此前不久，有消息称ChatGPT通过了美国一所法学院的考试，其撰写的文章涵盖了从宪法到税收等一系列主题。
ChatGPT仍然会犯事实认识错误，但教育机构已急于禁止这一AI工具。
OpenAI在帖子中说：“我们认识到，识别AI编写的文本一直是教育工作者讨论的一个重要问题，认识到AI生成的文本分类器在课堂上的限制和影响同样重要。”
“我们正在与美国的教育工作者接触，了解他们在课堂所见，并讨论ChatGPT的能力和局限性。”
纽约和其他司法管辖区的官员已禁止在学校使用这款AI软件。
澳洲一些大学表示，他们将改变考试形式，以此避免学生滥用AI工具，并将其视为作弊。
OpenAI表示，不建议将其用于英语以外的其他语言。，因为其在其他语言中的表现更差。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
