AI换脸“野蛮生长” 治理如何跑赢风险?

吴世耀 绘

近日，记者在多个电商平台发现，提供AI视频生成、数字人定制等服务的店铺不在少数。记者以普通消费者的身份，随机选择了5家相关商家进行实测。在询问“是否可以用明星的头像制作视频”时，5家店铺均表示可以制作，但店铺页面均未明确标注提供AI换脸服务。其中，有3家客服在了解记者需求后，引导记者前往其他社交平台进一步沟通制作细节。

按照商家指引，记者添加了其中一名客服的企业微信，并发去一段随机选取的明星代言视频，询问：“类似这种效果，素人拍摄，后期替换成明星脸，怎么收费？”对方回复称可以制作，拍摄完成后可用AI技术替换为明星的面孔，价格根据视频时长计算。另一名客服在明确得知记者打算使用明星脸制作带货视频后，甚至主动提出可以免费试做小样。在5家受访商家中，仅有一家在得知记者制作的明星AI视频将用于商业用途后，表示无法接单。

不仅如此，部分社交平台还出现了“AI换脸视频教程”短视频，专门教学如何进行AI换脸。记者根据其中一期教程，在某款AI视觉大模型中上传了一段自拍视频，同时上传了一张明星的正面照片，等待一段时间后，模型顺利将记者的脸部替换为明星的面孔，原视频中的口型、表情和声音得以保留，而脸部、发型乃至服装均呈现为该明星的形象，几乎以假乱真。此外，只需购买会员，即可去除AI生成内容中的水印。

近期，AI换脸技术滥用问题集中爆发，从演艺、体育明星到政商人士，乃至普通素人，均有可能成为受害者。据不完全统计，仅今年前3个月，就已发生数十起演员及影视从业者针对AI短剧的公开维权事件。

AI换脸技术的滥用甚至已延伸至犯罪领域。今年，晋安检察办理福州首例AI“活化”换脸认证案。李某甲、李某乙二人利用AI软件将静态照片“活化”为动态视频，成功绕过支付App的人脸识别系统，协助上家转移非法资金10万元。两人被公安机关抓获后，于今年3月以非法获取计算机信息系统数据罪被判处刑罚。

记者了解到，在该案中，犯罪嫌疑人购买一个未认证的支付账户，并配以相应的个人身份信息和照片，成本仅需1.6元至2.5元；而利用AI生成用于绕过验证的动态视频，耗时不过几分钟，成本几乎可以忽略不计。

“即便是专业人士，也难以准确区分真实内容与AI生成内容。”长期深耕AI影像修复与生成领域的福建帝视科技集团有限公司人工智能算法总监邓炜表示，随着AI视频技术的日益普及，技术门槛持续降低，甚至部分开源模型也可免费使用，在这种低风险、高回报的模式下，不法分子愈发肆无忌惮。

邓炜认为，防治AI换脸技术滥用，可以从技术源头上筑牢安全防线。例如，可以在AI生成的内容中添加“隐形水印”，即便内容经历裁剪、压缩等操作，水印仍可被专用检测器提取，从而实现来源追溯。

此外，还可以采用更具“进攻性”的防御思路。“运用‘数据投毒’技术，当不法分子抓取图片用于训练换脸模型时，被‘下毒’的数据会干扰模型的学习过程，导致生成内容出现扭曲、伪影等无法修复的缺陷，从而变得容易被识别。”邓炜指出，然而，相关技术的落地应用，需要有关部门加快出台配套的法律法规与标准规范。

AI换脸技术的灰黑产业链涉及图像提供者、内容制作者、AI技术公司、平台等多个环节。业内人士认为，AI技术公司在严格遵守相关法律规定的同时，平台方也应优化内容审核与技术监管，相关部门则需加大备案审查与执法力度。

福州检察机关也提醒广大消费者，应增强自我保护意识，妥善保管个人信息。一旦发现账户异常，应及时联系平台客服并向公安机关报案，共同营造“放心消费”的良好环境。

记者了解到，AI换脸技术的滥用已引发有关部门的高度关注。今年1月1日，新修改的《中华人民共和国网络安全法》正式施行。其中，新法增设了人工智能专章，明确禁止利用人工智能从事危害公民合法权益的活动。深度伪造他人肖像、声音，或利用AI实施诈骗等行为，均被纳入法律的严格监管范围。