李昱龍.不想罰款坐牢，別濫用生成式AI

社媒平臺不但沒有管制AI營銷帳號，導致虛擬虛假內容氾濫成災，還有意無意的任其發展，因為這些AI營銷帳號，最終都為社媒平臺帶來流量和利益。現在問題是：AI生成的虛擬或虛假內容，政府管制得到嗎？

人工智能（AI）生成的虛擬或虛假內容是否犯罪？大家也許以為，現在網上到處都是AI生成內容，不可能犯法。然而，英國率先給出的標竿式答案是：確定違法！別濫用AI。

據英國《衛報》報道，一男子利用AI製作兒童性虐待影像，並在網絡銷售獲利，因而被判處18年監禁。這是英國首次就此類行為定罪。他有時也受孌童癖者委託，用指定的真實兒童照片製成特定圖像。法官指出，這跟一般的“深度偽造”（DeepFake）不同，因為他是用無辜者的照片創造新的3D角色。

我才疏學淺，敢問各方專家，既然是新的3D角色，那就表示，新角色並非照片原主的真實活動，而只是虛構的虛擬角色扮演行為，為什麼違法？還有，如果他不用真實兒童照片，反而用AI生成的虛擬兒童性虐待影像或圖像是否也犯法？

若爭論下去，可能會產生更多現有法律無法詮釋的疑問。這就是生成式AI發展所延伸出來的前所未有世紀大難題。前述案例顯然只是冰山一角，以後將陸續有來。

我想說的是，AI越強大，就越容易被濫用來造假。如今，AI井噴式發展，而且進步神速，以致誰都可以用AI市場分析功能，找出最受歡迎的利基內容。然後，用生成式AI編寫相關內容文案或劇本，接著把文案劇本交給AI生成短片或系列圖像，再上傳到各大社媒營銷帳號，並配上網絡熱門搜尋關鍵詞，就可以翹起雙腳等著粉絲追隨，並帶來流量及利益。