E法周见|“含AI生成内容”,绝非侵权的免责金牌

文｜《法治周末》记者 仇飞

责任编辑 | 吕静

视觉编辑 | 王硕

10月18日凌晨3时许，演员吴越在社交平台发文：“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位‘花姐’你骗了多少人的钱？请如数奉还！太恶劣！”

她贴出的视频来自视频号“花姐美肤日记”，该视频号以“明星同款、吴越推荐”为名推销护肤品，视频里的“吴越”有脸、有声、有情绪，说这个产品“不是他们找我，是我找他们”“孕妇妈妈都能用”。同一账号里，还有“乒乓球奥运冠军邓亚萍推荐”的带货视频。当天上午11时许，该账号已无法搜到，微信团队回应：永久封禁，内容清空。

账号下线了，但对这类事件，仅以“明星维权成功”作结，显然不够。账号处置得很快，已下单的消费者找谁退款？视频下方明明打了“含AI生成内容”的标识，骗局为何仍能完成？被冒用形象的人，只能靠发声维权吗？

吴越不是第一个。演员温峥嵘曾同时“出现”在多个直播间，同一时段、不同妆发、不同产品，说着同样的话。她进到仿冒直播间质问“你是温峥嵘，那我是谁”，随即被拉黑禁言。

“我现在就很难证明我是我”，温峥嵘的这句话，道出了被冒名者共同的处境：被侵权人需要自证“视频中不是本人”，还要对合成事实、传播影响、损害后果等逐一举证，而冒用者可能换个账号，就可继续经营。据媒体报道，涉事账号“花姐美肤日记”在处置前一度改名为“小刘打工日记”，还删掉带货视频换成风景视频。

痕迹清理之快，与维权举证之难恰成对照。而这类事件里最容易被放过的一句话是：“视频下方标注了‘含AI生成内容’。”按2025年9月1日起施行的《人工智能生成合成内容标识办法》，AI生成的音视频应添加显式（用户可感知的提示）与隐式标识（嵌入元数据的溯源信息），平台应核验，用户不得恶意删除、篡改、隐匿。

制度设计本身并无问题，问题在于标识只能解决“知情”问题：它能回答“这段内容是否由AI合成”，却回答不了合成的内容是否获得授权、能否用来商业推广。把“已标注”当成“已合规”的通行证，是一种概念偷换，对“做局者”而言，这行小字看上去像风险提示，实际是免责声明。

为堵住这一漏洞，监管部门一直在加力。今年4月，中央网信办部署“清朗·整治AI应用乱象”专项行动，将未经授权提供“换脸拟声”服务、盗用他人形象进行数字人直播列为整治重点；9月30日启动的“清朗·整治短视频虚假人设乱象”专项行动，又把“AI合成音视频假冒公众人物实施虚假代言、营销”单列。据公开通报，前一项行动已清理违法违规信息561万余条、查处账号4.9万余个。

规则层面其实早有答案。民法典第一千零一十九条规定禁止利用信息技术手段伪造他人肖像，第一千零二十三条规定自然人声音的保护参照肖像权保护规则。今年9月，《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》）发布，作为我国首部涉AI司法裁判规则文件，专门对“换脸拟声”“AI幻觉”等问题明确裁判标准，并将标准落到“可识别性”上：未经同意生成可识别特定自然人的虚拟形象并使用、公开，侵害姓名权、肖像权；模仿其音色、语调生成可识别合成人声，侵害声音权益。可见，标准从来不是“像不像”，而是“能不能被认出来”。

更关键的是，这类视频虚构的不只是一张脸，而是一层推荐关系。《互联网广告管理办法》第九条要求，通过知识介绍、体验分享、消费测评等形式推销商品或者服务，并附加购物链接等购买方式的，广告发布者应当显著标明“广告”。然而，一些视频号利用AI仿冒的名人主播挂链接、带口播、讲卖点，唯独没有“广告”二字。也正因此，《意见》明确，利用人工智能“仿冒名人带货”构成欺诈，消费者依据消费者权益保护法第五十五条主张惩罚性赔偿的，人民法院依法予以支持，即“退一赔三”，赔偿金额不足五百元按五百元计。

值得注意的是，“花姐”账号是个人运营还是团队操作，尚无调查结果。但实践中已经出现AI仿冒名人带货的完整链条：有人提供人脸素材，有人撰写话术，有人开店收款，有人负责投放。治理若只停在“封一个号”，等于只关掉了出货口，未触及生产线。至于“花姐”究竟是谁、获利多少、有无同伙，答案应由调查给出，而非由舆论推定。

吴越话里最朴素也最有分量的，是“如数奉还”四个字。它不是法律术语，却点中了要害：这类行为不是“说错了话”，而是“拿走了钱”。

要让这四个字有着落，追责就得从“账号”转向“人”和“钱”。封号只是止损，运营主体、店铺经营者、投放渠道、收款账户应串成一条可追溯的链条；以非法占有为目的、数额较大的按诈骗罪追究刑事责任；虚假宣传情节严重、金额较大的，按虚假广告罪查处。只有违法所得被追缴、被退还，违法成本才会真正高于违法收益。

口子还必须堵在生成端。生成式AI服务提供者有条件也有能力进行身份核验：用户上传含人脸图片要求生成视频时，应当比对人脸库、要求二次确认，并在导出文件中保留不可去除的隐式标识。“广告”标识与AI标识也应该分开对待：AI标识管“真假”，广告标识管“买卖”；当一条视频既挂购物链接又冒用他人身份，它就不再是标识瑕疵，而是欺诈。平台审核应当把“含AI生成内容”从“可以放行”的理由，改成“需要进一步核验”的触发条件。

这起事件最荒诞的一幕在于：一个真实的人，竟要证明屏幕里的那个人不是自己。温峥嵘没能在直播间里证明，吴越只能在凌晨三点的微博里证明。技术降低了造假的门槛，治理就必须抬高违法的代价。否则，今天封掉的是“花姐”，明天还会有别的账号，换一张脸、换一款产品，继续借他人之名牟利。

吴越问“骗了多少人的钱”，其实是在替所有尚未察觉自己被骗的人发问。这个问题，不该只由她一人在凌晨追问。

⭐⭐⭐⭐⭐