文档内容
用监管撕掉“换脸”画皮
骗子通过人工智能换脸技术，佯装成好友视频聊天，10 分钟内
竟从受害者处骗走 430 万元。近日，内蒙古包头市公安局电信网络犯
罪侦查局发布一起使用人工智能技术进行电信诈骗的案件，再次表明
人工智能换脸存在巨大隐患，亟待纳入监管。
连视频聊天都已经不可信，用上人工智能的诈骗简直令人防不胜
防。据警方介绍，人工智能诈骗还有不少花样，通过声音合成、人工
智能换脸、转发语音等手段，成功率接近 100%。人工智能让犯罪有
了技术优势，也给普通人带来更多风险，不仅是物质上可能存在损失、
精神上受到伤害，还可能制造人与人之间的信任危机。
面对不断增加的人工智能诈骗风险，该怎么办？人工智能作为一
种技术手段，由人所创造，为人所使用，也就需要有人来约束。撕掉
人工智能画皮，还得靠人的“慧眼”。新兴技术出现，一开始总有人
利用普通人对新兴技术的陌生感做不当甚至违法的行为，也是因为这
份不熟悉，诈骗得逞率往往较高。随着技术越来越普及，普通人对其
熟悉度越来越高，监管越来越到位，诈骗手段自然就开始广为人知。
目前人工智能的应用正处于从新兴到普及的过程，人的力量自然应该
适时介入。
要遏制“人工智能换脸”等人工智能领域的深度合成技术应用乱
象，还得多方主体共同发力多管齐下。4 月 11 日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，对生成式人工智
能产业给出较为详尽的规定，对用户安全保护已经迈出第一步。此外，
监管部门要看到这一问题的严峻性，将监管责任放在前面；也需要做
好善后工作，挖出相关产业链，给诈骗行为以震慑。平台和个人也应
避免信息泄露，不给骗子留下把柄。
技术是一把双刃剑，拥抱新技术带来的发展与变革，也必须规避
可能存在的风险和危险。既然有人在用它图谋不轨，就必须为这把剑
装上剑鞘，这是为了保护剑，也是为了保护人。（via 北京晚报）AI 换脸技术不能野蛮生长
近日，内蒙古包头警方公布一起利用人工智能换脸技术实施诈骗
的案件。相较于传统电信诈骗，此类诈骗利用 AI 换脸技术绕过面容
核验等防范措施，更具欺骗性。为 AI 换脸技术加装安全网尤为必要。
人工智能技术在促进社会经济发展的同时，也暴露出一定风险。
以 AI 换脸技术为例，普通用户获取教程并不难。除被用作电信诈骗，
AI 换脸还被用于冒充名人直播带货，合成视频贩卖营利，甚至诽谤、
敲诈勒索他人等。
AI 换脸技术打破了眼见为实的传统认知，如不加干预，随着技
术迭代升级，AI 换脸或将愈发逼真，反诈防骗难度进一步加大，因
验证身份带来的交易成本也将提升。技术研发者、平台运营方以及监
管部门等有责任堵住漏洞，防范 AI 换脸野蛮生长。
要为 AI 换脸技术划定红线。目前，对生成式人工智能的治理，
已告别无法可依。生成式人工智能技术的使用原则、规则得以确立，
各方权利、义务与责任基本明确，有利于 AI 技术滥用的源头治理。
各类科技企业、开发者也应主动开展合规自查，引导技术向善。
要从根源铲除 AI 换脸诈骗赖以生存的土壤。人脸的深度伪造，
离不开对目标人脸的模型学习与面容合成、通信协议破解技术的配合。
公安、网信等部门应形成合力，从数据安全、技术研发、图像传播等
方面全链条打击 AI 技术滥用行为。各平台也应对用户上传的图像进行技术处理。
要以科技赋能提升用户反诈能力。AI 换脸虽可暂时蒙骗人眼，
但在技术层面的留痕却难以被掩盖。要加快推动 AI 生成图像识别、
鉴真技术的应用，短视频平台、社交软件等要对合成图像进行显著标
注，帮助用户辨别真伪，让诈骗无处遁形。（via 经济日报）
粉笔说：
随着人工智能的迅猛发展，诈骗团伙的诈骗手段也越来越科技化，最近发生的 AI“换脸”诈骗，打破了眼见为实的传统认知，让人防
不胜防。问题发生，根本原因在于诈骗分子掌握了受骗人信息，这些
信息可能来源于自身对外公开的社交账号，更有可能被有意泄露甚至
售卖。对此，我们每个人都要增强防范意识，注意不过分暴露个人信
息。更为重要的是，要为 AI 换脸技术划定红线，明确研发、应用、
监管等各方的权利、义务。科技企业要严格规范技术的开发和应用，
完善相关授权机制，引导技术向善。社交平台通过对技术特征的识别
来建立预警机制，建起一道技术屏障。监管部门要形成合力，加大对
于用户隐私的搜集、使用进行更坚决的保护，加强对违法犯罪行为的
惩处，让诈骗无处遁形。免责声明
本资料仅供内部交流使用，非商业用途。在未取得粉笔许可前，任何人士或
机构均不得以任何方法或形式复制、出版、发放及抄袭本资料内容作商业或非法
之用途，违者必究。
遇见不一样的自己
come to meet a different you
