研究人员发现ChatGPT生成的代码大部分不安全

（魁北克23日讯）ChatGPT聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的4位研究人员发现，ChatGPT生成的代码往往存在严重的安全问题，而且不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误。

研究人员在一篇论文中介绍了他们的发现，《IT之家》查看有关论文后发现，他们让ChatGPT 生成了 21个程序和脚本，涉及C、C++、Python和Java语言。这些程序和脚本都是为了展示一些特定的安全漏洞，比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。

结果显示，ChatGPT在首次尝试时生成的21个程序中只有5个是安全的。在进一步提示纠正错误步骤后，这个大型语言模型设法生成了7个更安全的应用程序，不过这只是与在评估的特定漏洞有关的“安全”，并不是说最终的代码不存在任何其他可利用的漏洞。

研究人员指出，ChatGPT的部分问题是由于它没有考虑敌对的代码执行模型，反而会反复告诉用户，安全问题可以通过“不输入无效的数据”来避免，这在现实世界中是不可行的。然而，它似乎能够意识到并承认自己建议的代码中存在的关键漏洞。

魁北克大学计算机科学与工程教授、论文的合著者之一拉斐尔库里告诉《The Register》：“显然，它只是一个算法，什么都不知道，唱颂能识别出不安全的行为。”

他说，最初ChatGPT对安全问题的回应是建议只使用有效的输入，显然是不合理的。只有在之后被要求改进问题时，它才提供了有用的指导。

研究人员认为，ChatGPT的这种行为并不理想，因为用户知道要问什么问题需要对特定的漏洞和编码技术有一定的了解。研究人员还指出，在ChatGPT中存在着道德上的不一致性。它会拒绝创建攻击代码，但却会创建有漏洞的代码。他们举了一个Java反序列化漏洞的例子，“聊天机器人生成了有漏洞的代码，并提供了如何使其更安全的建议，却说它无法创建更安全版本的代码。”