李昱龙.不想罚款坐牢，别滥用生成式AI

社媒平台不但没有管制AI营销帐号，导致虚拟虚假内容泛滥成灾，还有意无意的任其发展，因为这些AI营销帐号，最终都为社媒平台带来流量和利益。现在问题是：AI生成的虚拟或虚假内容，政府管制得到吗？

人工智能（AI）生成的虚拟或虚假内容是否犯罪？大家也许以为，现在网上到处都是AI生成内容，不可能犯法。然而，英国率先给出的标竿式答案是：确定违法！别滥用AI。

据英国《卫报》报道，一男子利用AI制作儿童性虐待影像，并在网络销售获利，因而被判处18年监禁。这是英国首次就此类行为定罪。他有时也受娈童癖者委托，用指定的真实儿童照片制成特定图像。法官指出，这跟一般的“深度伪造”（DeepFake）不同，因为他是用无辜者的照片创造新的3D角色。

我才疏学浅，敢问各方专家，既然是新的3D角色，那就表示，新角色并非照片原主的真实活动，而只是虚构的虚拟角色扮演行为，为什么违法？还有，如果他不用真实儿童照片，反而用AI生成的虚拟儿童性虐待影像或图像是否也犯法？

若争论下去，可能会产生更多现有法律无法诠释的疑问。这就是生成式AI发展所延伸出来的前所未有世纪大难题。前述案例显然只是冰山一角，以后将陆续有来。

我想说的是，AI越强大，就越容易被滥用来造假。如今，AI井喷式发展，而且进步神速，以致谁都可以用AI市场分析功能，找出最受欢迎的利基内容。然后，用生成式AI编写相关内容文案或剧本，接着把文案剧本交给AI生成短片或系列图像，再上传到各大社媒营销帐号，并配上网络热门搜寻关键词，就可以翘起双脚等着粉丝追随，并带来流量及利益。