OpenAI吹哨人巴拉吉离世 曾警告AI技术将引发伦理危机

舒尔曼写道：“他有找到简单解决方案和编写优雅代码的诀窍。他会仔细而严谨地考虑事情的细节。”

Balaji后来转向组织用于训练GPT-4的在线文章和其他媒体的庞大数据集，GPT-4是OpenAI的第四代旗舰大型语言模型，也是该公司著名聊天机器人的基础。正是这项工作最终让巴拉吉对他帮助开发的技术提出了质疑，尤其是在报纸、小说家开始起诉OpenAI和其他AI公司侵犯版权之后。

他首先向《纽约时报》提出了自己的担忧，《纽约时报》在去年10月报道了这项消息。

他后来告诉美联社，他将在最严重的版权侵权案件中“尽力作证”，并认为去年《纽约时报》的侵权案件是“最严重的”。《纽约时报》的律师在11月18日的一份法庭文件中称，他可能拥有“独特而相关的文件”，可支持OpenAI故意侵犯版权的指控。

一份法庭文件显示，在包括喜剧演员莎拉·西尔弗曼在内的几位作家提起的另一起案件中，律师也要求获得他的记录。

巴拉吉在10月下旬告诉美联社：“在人们的数据上进行培训，然后在市场上与他们竞争，这感觉是不对的。”“我认为你不应该这样做。我认为你不能合法地这么做。”

他告诉美联社，他对OpenAI的幻想逐渐破灭，尤其是在去年OpenAI董事会解雇了首席执行员阿尔特曼，然后又重新聘请了他之后。巴拉吉说，他对该公司的商业产品如何推出感到非常担忧，包括它们倾向于推送被称为幻觉的虚假信息。

但对于他所担心的“一系列问题”，他表示自己最关注的是版权问题，因为这个问题“实际上是可以采取措施解决的”。

他承认，在习惯于从互联网上提取数据的AI研究界，这是一个不受欢迎的观点，但他表示，“他们将不得不改变，这只是时间问题。”

目前还不清楚在他死后，其爆料会在多大程度上被作为法律案件的证据。他还发表了一篇个人博客，表达了他对这个话题的看法。

今年8月从OpenAI辞职的舒尔曼说，他和巴拉吉巧合地在同一天离职，当晚和同事们在旧金山的一家酒吧共进晚餐、喝酒庆祝。巴拉吉的另一位导师、联合创始人兼首席科学家苏茨克维离开了OpenAI，他认为，这是他离开的另一个原因。

舒尔曼宣称，巴拉吉今年早些时候告诉他，他计划离开OpenAI。巴拉吉并不认为比人类更好的通用人工智能“即将到来，就像公司其他人似乎相信的那样”。舒尔曼也说，这位年轻的工程师表示有兴趣获得博士学位，并探索“一些关于如何构建智能的更不寻常的想法”。