星洲网
星洲网
星洲网 登入
Newsletter|星洲网 Newsletter 联络我们|星洲网 联络我们 登广告|星洲网 登广告 关于我们|星洲网 关于我们 活动|星洲网 活动

ADVERTISEMENT

ADVERTISEMENT

国际

|

即时国际

发布: 12:57pm 30/01/2025 1659点阅

AI

新风险

AI

新风险

AI专家警告 通用AI恐带来新风险

(伦敦30日美联电)专家们在一份史无前例的国际报告中称,先进的AI系统有可能产生极端的,比如加剧广泛的失业、助长恐怖主义或横行。这份报告还对AI技术衍生的一系列危险进行了分类。

《先进AI安全国际科学报告》将于下月在巴黎举行的重要AI峰会之前发布。该论文得到了包括美国和中国在内的30个国家的支持,标志着两国在争夺AI霸权的斗争中罕见的合作,中国初创公司Deepseek本周以其预算聊天机器人震惊世界,尽管美国对中国的先进晶片出口管制。

ADVERTISEMENT

领导这项研究、有AI之父之称的本吉奥在接受美联社采访时表示,一组独立专家的报告是对现有研究的“综合”,旨在帮助指导官员为快速发展的技术制定护栏。

编写计算机程序生成逼真图像

报告称:“此事关系重大。”报告指出,虽然几年前最好的AI系统几乎不能吐出一个连贯的段落,但现在它们可以编写计算机程序,生成逼真的图像,并进行长时间的对话。

尽管AI的一些危害已经广为人知,例如深度造假、诈骗和有偏见的结果,但该报告称,“随着通用AI变得更有能力,额外风险的证据正在逐渐出现”,而风险管理技术仅处于早期阶段。

本周,梵蒂冈和末日之钟背后的组织对AI发出了警告。

该报告侧重于通用AI,以聊天机器人为代表,如OpenAI的ChatGPT,用于执行许多不同类型的任务。风险可分为三类:恶意使用、故障和广泛的“系统性”风险。

本吉奥和另外两位AI先驱在2019年获得了计算机科学的最高奖项,他表示,聚集在一起撰写报告的100名专家并不都对未来AI的前景持一致意见。AI研究界最大的分歧之一是,这项快速发展的技术何时会在各种任务上超越人类的能力,以及这意味着什么。

本吉奥说:“他们对情景也存在分歧。当然,没有人有水晶球。有些场景是非常有益的。有些是可怕的。我认为政策制定者和公众评估这种不确定性非常重要。”

改变工作岗位并“取代工人”

报告称,通用AI也可能改变一系列工作岗位,并“取代工人”。报告指出,一些研究人员认为,AI创造的就业机会可能比它夺走的就业机会更多,而另一些研究人员则认为,它将压低工资或就业率,尽管它将如何发挥作用还存在很多不确定性。

报告称,AI系统也可能失控,要么是因为它们积极破坏人类的监督,要么是因为人类不太关注。

然而报告作者表示,许多因素使得管理风险变得困难,包括AI开发人员对他们的模型如何工作知之甚少。

2月10日至11日,世界各国领导人、科技公司老板和民间团体将再次齐聚巴黎AI行动峰会。法国官员表示,各国将签署一份关于AI发展的“共同宣言”,并同意就AI技术的可持续发展做出承诺。

本吉奥表示,该报告的目的不是“提出一种评估系统或其他东西的特定方法”。作者没有对特定风险进行排序,也没有提出具体的政策建议。相反,他们列出了有关AI的科学文献所说的“一种政策制定者可以理解的方式”。

他说:“我们需要更好地了解我们正在建立的系统,以及随之而来的风险,这样我们才能在未来做出更好的决定。”

AI专家警告 通用AI恐带来新风险
有“AI教父”之称的本吉奥警告称,我们正在创造比人类更强大的怪物(AI)。(美联社档案照)

打开全文

ADVERTISEMENT

热门新闻

百格视频

发布: 5:11pm 18/02/2025 814点阅
吉利与阶跃星辰强强联手 全球首个多模态大模型开源引领AI革新
吉利与阶跃星辰强强联手  全球首个多模态大模型开源引领AI革新
阶跃星辰和吉利汽车集团正式官宣:将双方合作研发的两款阶跃 Step 系列多模态大模型向全球开发者开源。(网络图)

(北京18日综合电)中国AI初创公司阶跃星辰和吉利汽车集团周二联合宣布,将双方合作的阶跃两款Step系列多模态大模型向全球开发者开源。

根据澎湃新闻引述上海市经信委消息,两家公司合作的开源大模型包含目前全球范围内参数量最大、性能最好的开源视频生成模型阶跃Step-Video-T2V,以及行业内首款产品级开源语音交互大模型阶跃Step-Audio。

2023年成立的阶跃星辰是吉利汽车集团的科技生态战略合作伙伴。此次联合开源的行动,旨在促进大模型技术的共享与创新,推动人工智能的普惠发展。

报道称,这一举措是继深度求索(DeepSeek)、Minimax之后,形成大模型开源世界的又一股中国力量。

据了解,这也是阶跃星辰首次开源其Step系列基座模型。根据该企业的技术报告,阶跃Step-Video-T2V模型的参数量达到300亿,可以直接生成204帧、540P分辨率的视频。

ADVERTISEMENT

ADVERTISEMENT