星洲网
星洲网
星洲网 登入
Newsletter|星洲网 Newsletter 联络我们|星洲网 联络我们 登广告|星洲网 登广告 关于我们|星洲网 关于我们 活动|星洲网 活动

ADVERTISEMENT

ADVERTISEMENT

国际

|

即时国际

|
发布: 12:19pm 12/04/2023

中国

AI

管制

中国

AI

管制

防AI大失控 中连环拳监管

  防AI大失控  中连环拳监管
百度早前公布“文心一言”AI 模型,作为 ChatGPT 的竞争对手。(图:互联网)

(北京12日综合电)出手监管!中国国家互联网信息办公室周二就《生成式人工智能服务管理办法》公开咨询,列明利用人工智能生成的内容,不得含有颠覆政权、煽动分裂及虚假内容。AI用户要实名登记,服务供应商向公众推出产品前先向当局提交安全评估,违规者可被追究刑事责任。

人工智能聊天机械人程式ChatGPT在全球掀起热潮,中国科企近期接连推出自家版本的生成式AI服务,从百度的“文心一言”、阿里巴巴的“通义千问”,到商汤的“商量”等,就连京东据报也将在年内上线ChatJD。

ADVERTISEMENT

随著AI浪潮来势汹汹,引发全球警惕,深伪技术可能衍生造假和滥用,相关监管问题,开始引起关注。

官方人民网董事长叶蓁蓁上月30日在中国网络视听大会上警告,AI大脑既是高科技的大脑,也是价值观的大脑,AI平台是有立场的,因此必须关注其政治方向、舆论导向和价值取向。

国家网信办周二发布《生成式人工智能服务管理办法》(简称办法)征求意见稿,列明生成式人工智能产品或服务要遵守法律法规,尊重社会公德、公序良俗,不得含颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情讯息,虚假讯息,以及可能扰乱经济和社会秩序的内容。

供应商须申报安全评估

此外,要采取措施防止种族、信仰、国别等歧视,防止生成虚假讯息。要尊重知识产权,禁止非法获取、披露、利用个人讯息和私隐等。尊重他人合法利益,防止损害肖像权、名誉权。

中国澎湃新闻评论指出,“AI写假新闻”、“AI一键脱衣”等案例提醒我们,必须构建完善的管理制度和法律规范,让AI及其开发者明白该做什么、不该做什么。

网信办的意见稿提出,AI服务提供者推出产品前,应向主管部门申报安全评估。用户要提供真实身分讯息。若发现用户在使用过程中违法违规,包括从事网络炒作、恶意发帖、编写恶意软件,实施不正当的商业营销等,服务提供者应暂停或终止服务。

胡锡进:监管为推动健康发展

对违反规定的服务提供者,主管部门将按照《网络安全法》、《数据安全法》及《个人讯息保护法》等予以处罚,责令限期改正。拒不改正或情节严重的,责令暂停或终止其提供服务,并处1万元以上、10万元以下罚款。构成犯罪的,依法追究刑事责任。意见稿咨询期5月10日结束,预计今年内实施。

北京《环球时报》前总编胡锡进说,监管的目的不是要管死人工智能的开发,而是要推动它健康发展。

财新网周二引述上海大邦律师事务所合伙人游云庭指,《办法》总体上以鼓励产业发展为重点,例如《办法》提及“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作”,说明新规例是为现行AI服务中出现的问题补漏,“这对从业的公司来说仍是利好的”。

问及监管机构就人工智能生成的最新监管,商汤联合创始人、首席科学家王晓刚周二表示,有关法规并不是针对AI聊天机器人或大模型本身,而是人工智能的生成。

他表示,当一个新技术出现突破,过程产生收入价值,必然陪伴随风险,当中涉及认知、道德、伦理和法律的问题约束。“商汤明确遵守各地有关人工智能的法规”,在上市前已成立人工智能伦理与治理委员会和信息安全管理委员会,当有新产品推出时会透过严格审查要求,以符合标准。

中国此前宣布野心勃勃的计划,希望在2030年成为AI领域的世界领导者,咨询集团麦肯锡估计届时AI产业每年将贡献中国国内生产总值(GDP)约6000亿美元(约2.65兆令吉)。

打开全文

ADVERTISEMENT

热门新闻

百格视频

ADVERTISEMENT

点击 可阅读下一则新闻

ADVERTISEMENT