(北京12日综合电)中国出手监管AI!中国国家互联网信息办公室周二就《生成式人工智能服务管理办法》公开咨询,列明利用人工智能生成的内容,不得含有颠覆政权、煽动分裂及虚假内容。AI用户要实名登记,服务供应商向公众推出产品前先向当局提交安全评估,违规者可被追究刑事责任。
人工智能聊天机械人程式ChatGPT在全球掀起热潮,中国科企近期接连推出自家版本的生成式AI服务,从百度的“文心一言”、阿里巴巴的“通义千问”,到商汤的“商量”等,就连京东据报也将在年内上线ChatJD。
ADVERTISEMENT
随著AI浪潮来势汹汹,引发全球警惕,深伪技术可能衍生造假和滥用,相关监管问题,开始引起关注。
官方人民网董事长叶蓁蓁上月30日在中国网络视听大会上警告,AI大脑既是高科技的大脑,也是价值观的大脑,AI平台是有立场的,因此必须关注其政治方向、舆论导向和价值取向。
国家网信办周二发布《生成式人工智能服务管理办法》(简称办法)征求意见稿,列明生成式人工智能产品或服务要遵守法律法规,尊重社会公德、公序良俗,不得含颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情讯息,虚假讯息,以及可能扰乱经济和社会秩序的内容。
供应商须申报安全评估
此外,要采取措施防止种族、信仰、国别等歧视,防止生成虚假讯息。要尊重知识产权,禁止非法获取、披露、利用个人讯息和私隐等。尊重他人合法利益,防止损害肖像权、名誉权。
中国澎湃新闻评论指出,“AI写假新闻”、“AI一键脱衣”等案例提醒我们,必须构建完善的管理制度和法律规范,让AI及其开发者明白该做什么、不该做什么。
网信办的意见稿提出,AI服务提供者推出产品前,应向主管部门申报安全评估。用户要提供真实身分讯息。若发现用户在使用过程中违法违规,包括从事网络炒作、恶意发帖、编写恶意软件,实施不正当的商业营销等,服务提供者应暂停或终止服务。
胡锡进:监管为推动健康发展
对违反规定的服务提供者,主管部门将按照《网络安全法》、《数据安全法》及《个人讯息保护法》等予以处罚,责令限期改正。拒不改正或情节严重的,责令暂停或终止其提供服务,并处1万元以上、10万元以下罚款。构成犯罪的,依法追究刑事责任。意见稿咨询期5月10日结束,预计今年内实施。
北京《环球时报》前总编胡锡进说,监管的目的不是要管死人工智能的开发,而是要推动它健康发展。
财新网周二引述上海大邦律师事务所合伙人游云庭指,《办法》总体上以鼓励产业发展为重点,例如《办法》提及“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作”,说明新规例是为现行AI服务中出现的问题补漏,“这对从业的公司来说仍是利好的”。
问及监管机构就人工智能生成的最新监管,商汤联合创始人、首席科学家王晓刚周二表示,有关法规并不是针对AI聊天机器人或大模型本身,而是人工智能的生成。
他表示,当一个新技术出现突破,过程产生收入价值,必然陪伴随风险,当中涉及认知、道德、伦理和法律的问题约束。“商汤明确遵守各地有关人工智能的法规”,在上市前已成立人工智能伦理与治理委员会和信息安全管理委员会,当有新产品推出时会透过严格审查要求,以符合标准。
中国此前宣布野心勃勃的计划,希望在2030年成为AI领域的世界领导者,咨询集团麦肯锡估计届时AI产业每年将贡献中国国内生产总值(GDP)约6000亿美元(约2.65兆令吉)。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT