发布: 4:15pm 03/07/2023

AI换脸

中国官媒警告：AI换脸冒充官员诈骗增多脸声音自然逼真

（北京3日综合电）中国官媒发文警示，“AI换脸”诈骗在中国出现涉政苗头，有不法分子利用人工智能“深度伪造”冒充领导干部行骗。

隶属新华社的《瞭望》新闻周刊星期天报道，中国北方某地警方近日发布一起利用“AI换脸”的诈骗案件，而该案不仅是一起新型网络诈骗，更是一起涉政诈骗案件。

报道称，诈骗分子在微信视频聊天中“换脸”成受害人认识的一名领导干部，并提出其友人有一笔工程保证金需要借用受害人公司的对公账户走账。

在视频画面中，骗子“换脸”后面部表情自然，声音逼真，受害人便放松了警惕，仅10多分钟交流，受害人就转帐人民币数百万元，转账后打电话确认，才知道被骗。

报道指另一起案例，华北某地一名地方干部近日也发现有人冒用其名义，与他的亲友大范围添加微信好友，并还给他们打了视频电话，通话仅几秒钟，但朋友们感觉声音、画面都有点像。

国网信息通信产业集团安全科研专家赵明明表示：“只需提取最少10个字、最多32个字，就可以合成其声音。”

由于工作原因，一些领导干部的面部、声音等生物特征信息更易被获取，被人工智能学习利用后造成的潜在危害性也更大。

奇安信安全专家裴智勇说，目前专业级别的人工智能“深度伪造”仍需通过较强的硬件在实验室环境实现。这意味着，近期“AI换脸”诈骗形成系统性风险的可能性不大，但仍需未雨绸缪、预防打击。

《天津日报》周一的报导引述天津科技大学人工智能学院副院长张贤坤称，AI换脸拟声”并非新技术，但随着AI技术的不断发展和完善，特别是电脑算力的提升，现在的“换脸”效果更加逼真，在电影、电视、广告和游戏领域得到了广泛的应用。

报道指出，中国在2020年和2021年分别颁布的《民法典》”、《个人信息保护法》等以及相关的修订版本，对生物识别资讯作出规定。但天津师范大学法学院焦艳玲教授认为，即便有这些法规，利用AI换脸拟声违法的情况仍屡屡发生，反映出核心问题并不在立法层面，而在于法律的执行层面以及公民的意识层面，必须加大对违法行为的预防和监管。

打开全文