文档内容
“AI 换脸”以假乱真，规范人工智能的步子
要快些
近来，著名小品演员、相声演员“飙英文”的视频让公众大呼震
惊。据 11 月 5 日央视报道，视频网站上通过人工智能换脸，国产影
视剧里的主角用英语说起了台词，人们通过小程序也可以将自己变成
电影里的人物。该新技术给人们带来欢乐的同时，也带来了一种名为
“AI 换脸诈骗”的新骗术，不法分子通过虚拟摄像头，用“AI 换脸”
功能跟受害者聊天，相似度可达 80%，而一台电脑合成一段 10 秒的
换脸视频只需要一两分钟。为此，国家金融监督管理总局北京监管局
近日发布谨防“AI 换脸”等新型欺诈手段的风险提示。
“AI 换脸”来了，这让不少人感受到人工智能技术正在改变我
们的生活。除了用于开发娱乐性小软件外，人工智能技术正在被广泛
应用于医疗、新闻传播、生物多样性监测等领域，其发展前景值得期
待。
人工智能技术迅速发展，技术升级迭代的速度超出很多人的想象。
在文字写作上，今天，相关技术可以实现用简短素材短时间生成复杂
内容，其专业性、便捷性很强。以前的人工智能合成语音相对粗糙生
硬，如今合成的语音不仅有着与真人一样的语气语调嗓音，甚至还有
了情绪。
1此外，某些人工智能技术的可及度提升，公众的应用门槛降低。
用户使用某些人工智能软件并不需要具备专业知识和技能，甚至有些
产品已实现“傻瓜式操作”。比如，很多视频剪辑软件或短视频平台
上就有生成方言语音的功能，用户录入文字或语音素材就可以即刻生
成活灵活现的方言版字幕，丰富自己的视频作品风格。
以“AI 换脸”为例，其行业门槛并没人们通常想象的那么高，
通过算法开源，普通工程师可以“分分钟”制作出一个变脸软件，这
就导致控制源头存在天然的困难。几年前，一名外国工程师基于一个
算法开源项目开发了某款变脸软件，一时间，很多人在参加线上视频
会议时都纷纷化身“阿凡达”“马斯克”，令人啼笑皆非。
问题随之而来，一是人工智能终端产品已经铺天盖地，但鉴别技
术和设备却未能普及，二是相关规制约束没能及时跟上技术发展的脚
步。这些在很大程度上让某些人工智能技术有了被滥用的空间，公众
的担心由此而起。
应该看到，相关监管一直在持续发力。近几年，国家网信办等部
门先后出台了《互联网信息服务深度合成管理规定》《生成式人工智
能服务管理暂行办法》等政策文件，陆续开展了“互联网深度合成算
法备案”“大语言模型算法备案”等有关工作，有效促进了生成式人
工智能的健康发展和规范应用，对利用 AI 换脸、变声等手段实施违
法犯罪等行为形成有力震慑。同时，一些头部互联网平台也在探索算
2法检测、软件识别等办法来识别人工智能生成产品并向公众标注说明，
减少信息差，提升公众防范意识。
一项新技术的落地应用往往会经历一段“成长的烦恼”，这是新
事物发展过程中的共性问题。比如近年来的共享单车押金难退、伤亡
责任纠纷，直播带货虚假宣传、售后难觅等等。有关方面解决问题的
共同思路就是加快规制步伐，不断补上法律法规和行业公约等“拼
图”。同样，在某些人工智能技术应用门槛不断降低而触达面越来越
广的当下，积极着手问题的研判与应对，研究出台有效举措划清新技
术使用的边界、相关权责等，都应当快马加鞭，少一些空白、多一些
规范。
某种程度上，人工智能技术的使用有多方便，就可能有多少风险
和变数。防范包括“AI 换脸”在内的人工智能技术被滥用，要加强
对人脸、声纹、指纹、步态等生物信息数据的安全防护。这需要每个
人提高防范意识，更需要监管部门在完善规制的进程上加快脚步。
（via 工人日报）
3守好“AI 应用”底线，让科技向善而行
赵本山小品、郭德纲相声、范伟采访，纷纷一口英伦腔……连日
来，多个中国明星开口说英语的视频热传。不仅如此，憨豆先生、泰
勒·斯威夫特、特朗普等一众外国名人政要也说起了中文，有的甚至
唱起了“东北 rap”。如此混搭形成强烈反差，迅速吸引大量围观。
这些场景的出现，源于 AI 技术的广泛应用。还是那张熟悉的脸，
却说着风格迥异的语言，摆着颇为有梗的动作，喜剧效果瞬间拉满。
对此，有人好奇心爆棚，制作变脸变声视频求个点赞、图个乐呵；有
人投机心作祟，定制类似视频为卖课卖货引流；有人利益心驱使，做
起了 AI 换声视频的生意，“视频单价 3 元/秒”“最少 30 秒，最长
5 分钟”。一时之间，短视频平台上刮起了“换脸换声风”。
科学技术是推动社会进步的有力杠杆。人们追求“好玩、有趣”
本无可厚非，但不分人群、不设限制的技术运用，也存在不少安全隐
患。一方面，擅自使用“AI 换声换脸”本就侵犯他人私益和公共信
息安全，有的粉丝将 AI 换脸技术运用到明星身上，在朋友圈发布“与
明星同框”的视频，令人“傻傻分不清楚”，殊不知这一行为实则侵
犯了他人的肖像权、隐私权以及明星作品的信息网络传播权和录音录
像制作者权。有的不法分子利用此技术，引发了女子地铁照被“一键
脱衣”等事件，造成极大的社会负面影响。另一方面，“AI 换脸”
业已成为电信诈骗的高发形式，合成一段 10 秒的换脸视频只需要一
两分钟，技术的发展使得视频聊天的实时变脸不是难事。不法分子套
4着“AI 面具”去网恋、裸聊，大搞“杀猪盘”甚至进行犯罪，使得
小学生为救父母被骗 7 万多、7 秒视频连线被骗 30 万元、小伙为帮
朋友 10 分钟被骗 430 万元等事件屡屡发生。不禁感慨，以前说无图
无真相，有图也不一定有真相，现在轮到视频也不代表真相了。
技术本没有对错，使用者的应用赋予了技术道德价值。AI 技术
用之为善可以造福社会，不当滥用则会造成社会风险和损害。我们期
待看到 AI 技术带来更多的惊喜，同时也希望有合理的规范来指导技
术应用。在源头防控层面，要进一步加强公民个人信息保护，加大对
公民信息尤其是生物特征等隐私信息的技术、司法保护力度；在技术
应用层面，要进一步普及利用数字水印鉴伪等技术，特别是对 AI 生
成的视频，需标注不可消除的“AI 生成”水印字样，同时要拓展 AI
在“大数据寻人”等方面的应用空间，让技术真正成为人类的好助手；
在法律制度层面，则要进一步完善人工智能等领域相关法律法规，引
导“科技向善”，更好地为人类、为社会服务；在社会群体层面，我
们应当采取包容审慎的态度，理性看待、正确对待，在保护好自身安
全的同时，积极拥抱技术变革带来的新未来。（via 南方网）
5粉笔说：
随着技术的迭代升级，人工智能迎来了跨越式发展，AI 技术除
了用于短视频创作等娱乐性的软件外，也被广泛应用于医疗、新闻传
播、生物多样性监测等领域，虽然 AI 技术让我们的生活更加丰富，
但不分人群、不设限制的运用，必然会产生一系列的问题。近年来，
有不法分子开始利用 AI 技术进行牟利，例如利用“AI 换脸”冒充熟
人诈骗，制作发布假新闻混淆视听、赚取流量等。此外“AI 换脸”
“AI 换声”还存在法律风险，容易造成肖像权、隐私权、著作权、
声音权的侵犯。因此“AI 应用”需要多方约束规范，在源头端进一
步加强公民个人信息保护，在技术端进一步普及数字水印鉴伪等技术
的利用；除了法律法规的完善和监管的发力，也期待头部互联网平台
能提高社会责任感，让未来的人工智能更加健康规范。
6免责声明
本资料仅供内部交流使用，非商业用途。在未取得粉笔许可前，任何人士或
机构均不得以任何方法或形式复制、出版、发放及抄袭本资料内容作商业或非法
之用途，违者必究。
遇见不一样的自己
come to meet a different you
