生成式AI的法律归责新边界

三案拆解生成式AI的法律归责新边界

2025年6月

何某是一位公众人物，其姓名、肖像被某智能手机记账软件的用户用于创建AI陪伴角色。用户只需输入何某的姓名，即可与以何某为原型的AI虚拟人物进行对话互动。这一看似"用户个人行为"的技术应用，最终被北京互联网法院认定构成对何某人格权的侵害。

法院作出三个核心判断：AI虚拟角色是自然人人格形象的投射，用户使用原告姓名、肖像创设虚拟人物，实质上是将原告的整体形象投射到AI角色上；平台并非"中立的技术服务提供者"，产品设计鼓励、组织了用户上传行为，被告应作为内容服务提供者承担侵权责任；任何人都可以"调教"以何某为原型的AI角色，人格自由和人格尊严因此受到侵害。

本案涉及两个深层法律问题：其一，"技术中立"抗辩的边界在哪里？法院的答案是看产品设计是否"鼓励、组织"了用户侵权行为。如果产品功能本身指向侵权，即使技术上声称"我们只是提供工具"，法律上仍不能免责。其二，人格权保护范围是否延伸到AI生成的虚拟形象？答案是只要能让一般公众识别出"这是谁"，无论技术如何处理，都受到人格权保护。

关键结论：人格权保护不因技术手段的"智能化"而减损，核心判断标准是可识别性而非技术形态。

殷某某是一位配音演员，其声音被某智能科技公司采集后，用于训练AI声音模型，并生成与殷某某声音高度相似的语音内容，用于商业场景。殷某某起诉后，北京互联网法院支持了其诉讼请求。

法院的核心判决是：自然人声音权益的保护范围可及于AI生成的声音。依据《民法典》第1023条，对声音保护参照肖像权规则执行。这条逻辑链条很清晰：肖像权保护的核心是"可识别性"——只要公众能识别出"这是谁的脸"，无论是否原图直接使用，都构成侵权；这一规则平移到声音保护领域，同样适用。

何某案中使用的是真实的姓名和肖像，属于直接复制；而殷某某案中的AI声音是"学习"了声音特征后生成的"声音模型"，属于模仿而非复制。两案的技术路径不同，但法律结论相同：AI生成高度相似但非直接复制的内容，同样可能构成人格权侵权。

这一规则的影响远不止声音领域。用AI生成"看起来很像某人"或"听起来很像某人"的内容，即使不是原图原声的直接复制，也可能因为具有可识别性而落入人格权保护范围。AI图像、AI视频领域的从业者需要格外警惕这一风险。

可识别性是判断标准，技术手段不是免责理由。

上海某文化公司发现，杭州某智能公司运营的AI生成平台在训练过程中未经许可使用了其享有著作权的作品，且最终生成的图像内容与原作品构成实质性相似。杭州互联网法院审理后，支持了原告的诉讼请求。

第一层：技术过程的中立性不等于法律评价的中立性。法院不是孤立地看"训练AI用了什么数据"，而是审查从输入端到输出端的完整链路——如果输入端使用了侵权数据，输出端又产生了侵权内容，技术过程的中立性不能成为免责依据。

第二层：侵权判断标准是"实质性相似"，与判断人类创作侵权用同一个标准。法院对比AI生成内容与原作品，判断是否再现了原作品的独创性表达。如果AI生成的内容"学"会了原作品的独创性表达并能复现，原则上构成侵权。

第三层：合理使用的边界不延伸到商业性AI训练。未经许可使用他人作品进行商业AI模型训练，因其商业性质和规模化特征，很难认定为《著作权法》中的"合理使用"。企业不能指望AI的特殊性会带来特殊的法律豁免。

关键规则：训练数据的来源合法性 + 生成内容的实质性相似 = 著作权侵权认定

三案串联起来，勾勒出AI产业链上三个关键法律节点的三层递进逻辑：

第一层：何某案回答了"AI能不能用你的脸"——不能。人格要素的使用经技术处理后，只要具有可识别性就落入人格权保护范围。

第二层：殷某某案推进到"AI能不能像你"——也不能。AI生成高度相似但非直接复制的内容，同样构成侵权。

第三层：上海某文化公司案则明确"AI能不能学你然后产出一模一样的"——更不能。训练数据来源违法加上输出内容实质性相似，等于侵权。

三个节点的法律边界一旦清晰，AI产业链上的企业就面临系统性合规挑战。

面对AI法律风险的系统性挑战，企业需要从四个维度建立合规机制：

• 训练数据的来源审查：
  建立来源登记和版权核查机制，至少说清楚"数据从哪来的"。使用授权数据集、记录数据来源、保留授权凭证，是最基本的合规要求。
• 生成内容的输出过滤：
  建立输出端审核机制，实现对名人姓名、肖像、声音等敏感人格要素的识别和拦截。AI生成的内容不是法外之地。
• 用户协议明确"禁止创建他人AI形象"：
  不仅写了就行，功能设计本身不能"引导"用户侵权。产品设计决定法律责任边界。
• 保留合规证据链：
  "我什么都没做"已经不是安全策略。需要主动建立合规机制并保留记录，以证明已尽到合理注意义务。

数据来源审查/输出内容过滤/功能设计合规/证据链留存

从训练数据的版权清理，到生成内容的权利审查，到平台功能的设计合规——任何一个环节出现问题，都可能触发法律责任。AI企业需要意识到，合规不是成本，而是发展的前提。

扫码关注 / 联系咨询

📞 180-8435-5772

添加微信请备注咨询 | 致电前请先短信说明来意

长按识别二维码添加好友，备注咨询

广东广和律师事务所 · 人工智能法律业务中心

本文仅供学术探讨和法律知识普及，不构成法律意见。如有具体法律问题，请咨询专业律师。