疑AI深伪成“杀猪盘”工具 最美候选人遭盗资行骗

尤索夫坚信“Li Chu Xue”就是林慧娴。“我与她视频通话4次，画面高清、声音清楚，还有数不清的照片和视频，她的报警声明证明不了什么。”

林慧娴反驳称，自己不曾与尤索夫联系，更没有欺骗对方的钱财。

另两名土耳其男子奥兹德米尔（45岁）和不愿透露全名的塞尔坎（32岁）告诉《联合早报》，他们被“Suna”和“Dora”骗了很多钱，他们也相信“Suna”和“Dora”就是林慧娴。他们联系上其他受害者，估计有至少27人。他们已组织起来，向土耳其当局报案，案件现已进入调查阶段。

加拿大男子阿尔丰斯·阮（57岁）意识到自己可能陷入“杀猪盘”骗局后，录下与诈骗犯的交谈过程。

阿尔丰斯受访时说，当加密货币交易平台第三次拒绝让他提款后，他有不详的预感，所以要求和网聊了三周的女密友“Olivia Wong”视频通话。“我本就从事电脑相关行业，视频通话开始没多久，我就知道钱被骗走了。她和真正的林慧娴长得有点不像。”

3名土耳其受访者都不相信人工智能（AI）深伪（deepfake）技术能制作出高清视频。奥兹德米尔说：“我在与对方视频通话的两分钟里，甚至看到她脸上的小痘痘。”

生成式AI专家、AI公司HippoML首席执行官兼联合创始人许冰接受《联合早报》访问时说，当前的深伪技术完全可以让诈骗团伙根据需要，制作出带有青春痘、雀斑等脸部细节的虚假内容。

应记者要求，许冰分析了阿尔丰斯录下的视频。

他指出，常见摄像头拍下的画面是长方形的，但该视频却是生成式模型默认的正方形，“这显然是有问题的”。

他说：“由于对方很少出现肢体动作，不排除是使用了最初级的换脸技术。”

中国科学技术大学网络空间安全学院副教授周文柏分析阿尔丰斯的视频截屏后说，视频中的人脸缺少细节，纹理过于平滑，光影变化不足，脸部不时会出现明显抖动。

“这是用了效果一般的深伪模型生成的典型画面。”

周文柏建议人们要求视频通话的对象转身、遮挡脸部、挤捏鼻子等，来尝试辨别视频中人的真伪。

不过他强调，重要的不是找出明确可用的鉴别方法，而是提高警戒心。“若没有保持警戒的习惯，也就不会想到采用那些鉴别办法。”