林德成.AI令社会真假难辨

如果歌手歌声都可以被训练，那么网红、普通人的声音都可能被AI合成。我再进一步地假设，早几年Deepfake把很多女艺人、网红吓得寝食难安，当声音都可以被仿冒时，有心人士会不会直接“容貌+声音”，让这些女艺人在禁片上演。你觉得恐怖吗？

如果经常刷短视频，估计会看到电影解说的视频，而通常会嵌入人工智能（AI）模拟的人声，感觉像真人为你解说。不过，当ChatGPT横空出世后，“AI声音”已成了稀松平常之事，现有很多AI应用走入生活，许多人用文字去创造逼真的图像、视频和音乐作品。

其实，用AI写歌不是新鲜事。索尼CSL实验室在2016年曾通过Flow Machines软件，让AI“谱写”两首歌曲，分别为《Daddy’s Car》和《Mr Shadow》。当中《Daddy’s Car》还采用披头四曲风，让整首歌曲充满浓郁的60年代复古味道。这些AI音乐仍有瑕疵，音乐风格有些怪诞，但又不会觉得太突兀。然而，当AI技术变得成熟，训练数据从数十万变成亿万时，任何瑕疵都可以被遮掩。

近期，AI歌手翻唱突然火红，尤其“AI孙燕姿”成了热搜词。网民用开源免费的AI语音转换软件“So-VITS-SVC4.0”，训练AI模型去仿唱歌曲。对方只需收集歌手的声音、演唱素材，再交由软件训练，接着就能“音色转换”，让“AI歌手”演绎其他人的歌曲。

倘若标题不点破，一般网民会存疑，怎么孙燕姿会翻唱这么多歌曲，无论是换气、咬字、唱腔都很相似，难以辨认。然而细听，当听到孙燕姿唱《发如雪》，后面的京腔就完全露馅，马上可以断定是假的。

这不全然是中文音乐圈的事，欧美歌手也面临着同样遭遇，Rihanna、Kanye West都中招。在4月份，有一个名为ghostwriter977的账号利用两个加拿大歌手Drake和The Weeknd的歌声，创作一首单曲《Heart on My Sleeve》。这首歌还上架到Spotify、Apple Music和YouTube。随后，环球音乐集团（UMG）得之后要求各平台下架，并要求禁止AI公司用旗下歌手的歌曲来“训练”AI模型。据外媒Vice报道，最近还有骗子用AI模拟美国歌手Frank Ocean的歌声，在Discord行骗，声称手上有该歌手未发表的作品。结果骗子得逞，骗走了数千美元。