(伦敦30日美联电)AI专家们在一份史无前例的国际报告中称,先进的AI系统有可能产生极端的新风险,比如加剧广泛的失业、助长恐怖主义或横行。这份报告还对AI技术衍生的一系列危险进行了分类。
《先进AI安全国际科学报告》将于下月在巴黎举行的重要AI峰会之前发布。该论文得到了包括美国和中国在内的30个国家的支持,标志着两国在争夺AI霸权的斗争中罕见的合作,中国初创公司Deepseek本周以其预算聊天机器人震惊世界,尽管美国对中国的先进晶片出口管制。
ADVERTISEMENT
领导这项研究、有AI之父之称的本吉奥在接受美联社采访时表示,一组独立专家的报告是对现有研究的“综合”,旨在帮助指导官员为快速发展的技术制定护栏。
编写计算机程序生成逼真图像
报告称:“此事关系重大。”报告指出,虽然几年前最好的AI系统几乎不能吐出一个连贯的段落,但现在它们可以编写计算机程序,生成逼真的图像,并进行长时间的对话。
尽管AI的一些危害已经广为人知,例如深度造假、诈骗和有偏见的结果,但该报告称,“随着通用AI变得更有能力,额外风险的证据正在逐渐出现”,而风险管理技术仅处于早期阶段。
本周,梵蒂冈和末日之钟背后的组织对AI发出了警告。
该报告侧重于通用AI,以聊天机器人为代表,如OpenAI的ChatGPT,用于执行许多不同类型的任务。风险可分为三类:恶意使用、故障和广泛的“系统性”风险。
本吉奥和另外两位AI先驱在2019年获得了计算机科学的最高奖项,他表示,聚集在一起撰写报告的100名专家并不都对未来AI的前景持一致意见。AI研究界最大的分歧之一是,这项快速发展的技术何时会在各种任务上超越人类的能力,以及这意味着什么。
本吉奥说:“他们对情景也存在分歧。当然,没有人有水晶球。有些场景是非常有益的。有些是可怕的。我认为政策制定者和公众评估这种不确定性非常重要。”
改变工作岗位并“取代工人”
报告称,通用AI也可能改变一系列工作岗位,并“取代工人”。报告指出,一些研究人员认为,AI创造的就业机会可能比它夺走的就业机会更多,而另一些研究人员则认为,它将压低工资或就业率,尽管它将如何发挥作用还存在很多不确定性。
报告称,AI系统也可能失控,要么是因为它们积极破坏人类的监督,要么是因为人类不太关注。
然而报告作者表示,许多因素使得管理风险变得困难,包括AI开发人员对他们的模型如何工作知之甚少。
2月10日至11日,世界各国领导人、科技公司老板和民间团体将再次齐聚巴黎AI行动峰会。法国官员表示,各国将签署一份关于AI发展的“共同宣言”,并同意就AI技术的可持续发展做出承诺。
本吉奥表示,该报告的目的不是“提出一种评估系统或其他东西的特定方法”。作者没有对特定风险进行排序,也没有提出具体的政策建议。相反,他们列出了有关AI的科学文献所说的“一种政策制定者可以理解的方式”。
他说:“我们需要更好地了解我们正在建立的系统,以及随之而来的风险,这样我们才能在未来做出更好的决定。”
![AI专家警告 通用AI恐带来新风险](https://www.sinchew.com.my/wp-content/uploads/2025/01/aie4b893e5aeb6e8ada6e5918a-e9809ae794a8aie68190e5b8a6e69da5e696b0e9a38ee999a9.jpg)
![close](/public/images/galleryclose.png)
![zoom](/public/images/galleryzoom2.png)
![image](/public/images/foursquare.png)
ADVERTISEMENT
热门新闻
![happy](/public/images/emoji-happy-1.png)
![shock](/public/images/emoji-shock-1.png)
![cry](/public/images/emoji-cry-1.png)
![angry](/public/images/emoji-angry-1.png)
![speechless](/public/images/emoji-speechless-1.png)
百格视频
![吉利与阶跃星辰强强联手 全球首个多模态大模型开源引领AI革新](https://www.sinchew.com.my/wp-content/uploads/2025/02/e59089e588a9e4b88ee998b6e8b783e6989fe8beb0e5bcbae5bcbae88194e6898b-e585a8e79083e9a696e4b8aae5a49ae6a8a1e68081e5a4a7e6a8a1e59e8be5bc80.jpg)
(北京18日综合电)中国AI初创公司阶跃星辰和吉利汽车集团周二联合宣布,将双方合作的阶跃两款Step系列多模态大模型向全球开发者开源。
根据澎湃新闻引述上海市经信委消息,两家公司合作的开源大模型包含目前全球范围内参数量最大、性能最好的开源视频生成模型阶跃Step-Video-T2V,以及行业内首款产品级开源语音交互大模型阶跃Step-Audio。
2023年成立的阶跃星辰是吉利汽车集团的科技生态战略合作伙伴。此次联合开源的行动,旨在促进大模型技术的共享与创新,推动人工智能的普惠发展。
报道称,这一举措是继深度求索(DeepSeek)、Minimax之后,形成大模型开源世界的又一股中国力量。
据了解,这也是阶跃星辰首次开源其Step系列基座模型。根据该企业的技术报告,阶跃Step-Video-T2V模型的参数量达到300亿,可以直接生成204帧、540P分辨率的视频。
![close](/public/images/galleryclose.png)
![zoom](/public/images/galleryzoom2.png)
![image](/public/images/foursquare.png)
![happy](/public/images/emoji-happy-1.png)
![shock](/public/images/emoji-shock-1.png)
![cry](/public/images/emoji-cry-1.png)
![angry](/public/images/emoji-angry-1.png)
![speechless](/public/images/emoji-speechless-1.png)
ADVERTISEMENT