李昱龙|不想罚款坐牢，别滥用生成式AI

社媒平台不但没有管制AI营销帐号，导致虚拟虚假内容泛滥成灾，还有意无意的任其发展，因为这些AI营销帐号，最终都为社媒平台带来流量和利益。现在问题是：AI生成的虚拟或虚假内容，政府管制得到吗？

人工智能（AI）生成的虚拟或虚假内容是否犯罪？大家也许以为，现在网上到处都是AI生成内容，不可能犯法。然而，英国率先给出的标竿式答案是：确定违法！别滥用AI。

据英国《卫报》报道，一男子利用AI制作儿童性虐待影像，并在网络销售获利，因而被判处18年监禁。这是英国首次就此类行为定罪。他有时也受娈童癖者委托，用指定的真实儿童照片制成特定图像。法官指出，这跟一般的“深度伪造”（DeepFake）不同，因为他是用无辜者的照片创造新的3D角色。

我才疏学浅，敢问各方专家，既然是新的3D角色，那就表示，新角色并非照片原主的真实活动，而只是虚构的虚拟角色扮演行为，为什么违法？还有，如果他不用真实儿童照片，反而用AI生成的虚拟儿童性虐待影像或图像是否也犯法？

若争论下去，可能会产生更多现有法律无法诠释的疑问。这就是生成式AI发展所延伸出来的前所未有世纪大难题。前述案例显然只是冰山一角，以后将陆续有来。

我想说的是，AI越强大，就越容易被滥用来造假。如今，AI井喷式发展，而且进步神速，以致谁都可以用AI市场分析功能，找出最受欢迎的利基内容。然后，用生成式AI编写相关内容文案或剧本，接着把文案剧本交给AI生成短片或系列图像，再上传到各大社媒营销帐号，并配上网络热门搜寻关键词，就可以翘起双脚等着粉丝追随，并带来流量及利益。

错过不再！解锁所有内容

立即订阅 成为普通会员

已是会员？登入

VIP会员的专有特权

若您已是普通会员，现在就升级成为VIP。

	普通会员	VIP	VVIP
星洲网平台内容
星洲公开活动
礼品/优惠
会员文
VIP文
特邀活动/特级优惠
电子报（全国11份地方版）
报纸
	成为会员	按此升级	按此升级

单人用AI打造网络营销帐号的好处很多，其中最好玩的是，用户不止不必花大钱雇用团队，还可以不露脸，由AI生成的虚拟主播上阵。

最近，有网民揭露，他用多种AI强大功能，只靠生成式AI就把一个“浣熊自拍”的IG帐号，在短短3个月之内，成功得到13万多个粉丝追随。

这些AI生成的虚拟内容，随后又被其他新AI用来学习和训练，成型之后面市，又生成更多虚拟内容。类似的AI经营网络帐号越来越多，也越来越容易，还不断地被网民仿效和复制，导致不再有人用心去创造真实内容。

如果这趋势不受控制地发展下去，我想，多几年以后，在互联网上，除了生命力强大又没被AI侵占的传统媒体和自媒体之外，真实内容将成为历史，一个互联网时代就此结束！

有鉴于此，作为打击金融诈骗、网络霸凌和包括娈童癖在内的网络性犯罪，政府强制凡是在我国有超过800万用户的社媒平台和通讯服务，最迟需在明年1月1日前申请执照。

社媒平台不但没有管制AI营销帐号，导致虚拟虚假内容泛滥成灾，还有意无意的任其发展，因为这些AI营销帐号，最终都为社媒平台带来流量和利益。现在问题是：AI生成的虚拟或虚假内容，政府管制得到吗？