林德成.AI令社會真假難辨

如果歌手歌聲都可以被訓練，那麼網紅、普通人的聲音都可能被AI合成。我再進一步地假設，早幾年Deepfake把很多女藝人、網紅嚇得寢食難安，當聲音都可以被仿冒時，有心人士會不會直接“容貌+聲音”，讓這些女藝人在禁片上演。你覺得恐怖嗎？

如果經常刷短視頻，估計會看到電影解說的視頻，而通常會嵌入人工智能（AI）模擬的人聲，感覺像真人為你解說。不過，當ChatGPT橫空出世後，“AI聲音”已成了稀鬆平常之事，現有很多AI應用走入生活，許多人用文字去創造逼真的圖像、視頻和音樂作品。

其實，用AI寫歌不是新鮮事。索尼CSL實驗室在2016年曾通過Flow Machines軟件，讓AI“譜寫”兩首歌曲，分別為《Daddy’s Car》和《Mr Shadow》。當中《Daddy’s Car》還採用披頭四曲風，讓整首歌曲充滿濃郁的60年代復古味道。這些AI音樂仍有瑕疵，音樂風格有些怪誕，但又不會覺得太突兀。然而，當AI技術變得成熟，訓練數據從數十萬變成億萬時，任何瑕疵都可以被遮掩。

近期，AI歌手翻唱突然火紅，尤其“AI孫燕姿”成了熱搜詞。網民用開源免費的AI語音轉換軟件“So-VITS-SVC4.0”，訓練AI模型去仿唱歌曲。對方只需收集歌手的聲音、演唱素材，再交由軟件訓練，接著就能“音色轉換”，讓“AI歌手”演繹其他人的歌曲。

倘若標題不點破，一般網民會存疑，怎麼孫燕姿會翻唱這麼多歌曲，無論是換氣、咬字、唱腔都很相似，難以辨認。然而細聽，當聽到孫燕姿唱《發如雪》，後面的京腔就完全露餡，馬上可以斷定是假的。

這不全然是中文音樂圈的事，歐美歌手也面臨著同樣遭遇，Rihanna、Kanye West都中招。在4月份，有一個名為ghostwriter977的賬號利用兩個加拿大歌手Drake和The Weeknd的歌聲，創作一首單曲《Heart on My Sleeve》。這首歌還上架到Spotify、Apple Music和YouTube。隨後，環球音樂集團（UMG）得之後要求各平臺下架，並要求禁止AI公司用旗下歌手的歌曲來“訓練”AI模型。據外媒Vice報道，最近還有騙子用AI模擬美國歌手Frank Ocean的歌聲，在Discord行騙，聲稱手上有該歌手未發表的作品。結果騙子得逞，騙走了數千美元。