邢某利用AI仿冒中国国民党主席郑丽文形象直播带货被行拘,“AI换脸”诈骗该怎么防?

据公安部网安局5月7日消息，近期，山西大同网警在网络巡查工作中发现，辖区内一网民邢某非法使用中国国民党主席郑丽文形象的AI数字人直播带货，引发网民质疑，严重干扰正常网络秩序。

经核查，邢某从事直播带货，恰逢郑丽文访问大陆热度很高，萌生了利用名人热度增加流量的想法，随后，在未经授权的情况下，利用某AI工具生成了AI数字人形象及带货文案，之后在媒体平台直播带货，引发社会关注，造成恶劣影响。

邢某未经授权，擅自使用他人肖像生成AI数字人进行直播带货，构成盗用、冒用他人身份名义招摇撞骗的违法行为，违反了《中华人民共和国治安管理处罚法》规定，属地公安局已依法对其作出行政拘留。

近年来，随着人工智能技术的进步，一些不法分子开始利用AI技术融合他人面孔和声音，制造非常逼真的合成图像来实施新型网络诈骗，这类骗局常常会在短时间内给被害人造成较大损失。

“AI换脸”是怎么实现的？

只需一张目标人物的脸部照片，导入到AI软件就可实现。AI换脸技术原理在于将预先训练好的深度学习模型应用于人脸识别和替换，这些模型基于大量人脸数据进行特征标注和生成训练，并通过检测和提取源视频中的人脸，模型就可以将目标人脸嵌入到源视频中，然后合成逼真的新视频场景。

虽然AI处理换脸的过程瞬间就可完成，但在技术层面主要包括人脸位置检测与追踪、人脸部件位置定位、人脸特征抽取、人脸变换融合等。随着AI模型的进步，已经可以用更少的人脸数据构造出高逼真的特定人脸模型，这无疑会导致深度伪造内容更加泛滥，进而增加被用于违法活动的风险和隐患。如何防范“AI换脸”诈骗？

首先要谨慎对待陌生链接与视频要求，切勿轻易点击或提供个人信息。个人信息安全是防范“AI换脸”诈骗的关键，应强化对人脸、声纹等生物特征数据防护，不要过度公开或分享自己的动图、视频等含有个人信息的资料。

如果无法避免个人信息泄露，那么在视频对话时，可以要求对方在脸部前方进行挥手等动作，以观察其面部是否存在异常情况，也可以询问一些只有对方知道的问题，确保对方身份的真实性。

技术层面上，引入更强的安全技术，比如加强水印和数字签名等，也能起到有效的预防作用。目前，科研人员正在努力开发更加强大的人脸识别技术，以便检测和辨别换脸视频，实现“以AI治理AI”。

来源：公安部网安局 科普一下

编辑：吴桐

审核：毛梦囡

终审：林莉君