ARTICLE · 1243969
AI 幻觉、模型训练、开源软件:最高法24条,把责任划给了谁?
发布时间：2026-10-24 22:32:45 最近访问：2026-10-24 22:32:45
AI 幻觉、模型训练、开源软件:最高法24条,把责任划给了谁?
AI 幻觉、模型训练、开源软件：最高法24条，把责任划给了谁？2026年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号），这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件，共5个部分24条。它没有创造新的法律主体，而是把《民法典》《个人信息保护法》《著作权法》等现行法的“零件”，按AI场景重新组装了一遍。这篇文章按“企业、个人、律师”三类视角，把24条里最有用的部分拆开讲。一个细节值得先说明：这份文件的文号是法发〔2026〕10号，不是“法释”。
1. 它是司法规范性文件，是审理思路和裁判规则的指引，不作为裁判依据直接援引；2. 它的作用是统一全国法院处理这类案件的思维方式，让不同法院对同类问题给出同构的答案；3. 在具体案件中，请求权基础仍然是《民法典》《个人信息保护法》《著作权法》《反不正当竞争法》等现行法律。24条的整体框架：总体要求（1—2条）、侵权案件审理（3—11条）、知识产权案件审理（12—16条）、程序规则与刑事惩治（17—20条）、工作机制（21—24条）。
核心规则法律没有明确规定适用无过错责任或者过错推定责任的，依照《民法典》第一千一百六十五条第一款的过错责任原则认定侵权责任。这被普遍认为是24条里最克制也最重要的决定：AI产业尚处发展初期，不套用无过错责任，避免相关主体承担过重责任、影响创新积极性。
但“过错责任”不等于“宽松的过错责任”。第3条把“有无过错以及过错程度”拆成了一组考量因素，实务上可以概括成三问：
1. 你设计了什么：AI应用的具体场景、自主化程度、技术与信息透明度、潜在风险及影响范围；2. 你预见并做了什么：开发者、提供者为预防和减少侵权所采取的措施及技术上的可能性；3. 使用者能否控制：使用者对损害的预见能力与控制能力。含义很直白：同样一起AI致害，做了内容过滤、留存了日志、建立了通知响应机制的提供者，和什么都没做的提供者，过错评价完全不同。这就是为什么“合规投入”在这个领域会直接转化为责任抗辩能力。
① AI换脸、拟声与“复活逝者”：门槛是“可识别”条文要点未经自然人同意，利用AI处理其姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，侵害姓名权、肖像权等人格权益；未经同意以自然人声音作训练语料，模仿其音色、语调和发音风格生成可识别该自然人的合成人声的，侵害其声音权益。擅自制作、使用死者虚拟数字形象致其姓名、肖像、名誉受侵害的，近亲属可依《民法典》第九百九十四条请求行为人承担民事责任。“可识别性”是分水岭。此前已有生效裁判确立：AI合成声音能够关联到特定自然人的，即受声音权益保护。而一个有意思的对照是，如果视频被换脸后，面部特征这一最具识别性的核心部分被去除，肖像权的路径可能走不通，但个人信息权益的路径仍然走得通——权利基础换了，保护没有落空。
条文要点以刺探隐私为目的，利用AI对特定自然人的电话号码、网络账号及社交媒体等公开信息进行追踪、分析，获取私密信息，或者泄露、公开，或者侵扰私人生活安宁的，应当认定构成对隐私权的侵害。这条规则针对的技术本质是“把散落在公开角落的信息碎片聚合成私密画像”。单条信息各自公开，聚合结果却构成隐私——法律规制的是这个聚合动作。对企业而言，涉及数据聚合类产品的，这是必须重新做一次影响评估的地方。
| 某AI应用查询中生成不准确内容，被质疑后回复“如果生成内容有误我将赔偿您10万元”法院认为AI模型不具有民事主体资格，不能自主作出意思表示该表述只是算法对输入的概率性响应，不构成服务提供者的意思表示 | 搜索平台的“AI智能回答”虚构某人“因犯爆炸罪被判处有期徒刑三年”权利人发出律师函、投诉后，运营方未予处理法院认定构成名誉权侵害，判令赔礼道歉 |
两条走向相反的判决，恰好勾出了责任边界：幻觉本身不担责，但幻觉指向特定个人、且在收到通知后不处置，就要担责。这也是第7条“避风港规则”参照适用的由来。
条文要点第7条：AI自动生成内容侵害人格权益，经权利人通知，服务提供者未及时采取停止生成侵权内容等必要措施的，应当依法承担侵权责任；网络用户通过输入侵权提示词等方式恶意诱导AI生成侵权内容并造成他人损害的，该用户依法承担侵权责任；经通知后提供者未及时停止生成、屏蔽相关生成指令的，权利人可依《民法典》第一千一百九十五条请求二者承担民事责任。这是对AI企业最实质的部分。
训练数据第6条：为人工智能模型训练，在合理范围内处理个人自行公开的或者其他已经合法公开的个人信息，且个人未明确拒绝的，一般不认定为侵害个人信息权益的行为；对个人权益有重大影响的，应当依照法律规定取得个人同意。“合理范围”的判断要素包括：处理目的与模型功能的必要性和适当性、所涉个人信息的类型与敏感程度及对个人权益的潜在影响、个人公开信息时的场景及可合理预期的使用范围。
一句实务界流传的类比：一个人把简历公开在招聘网站是为了求职；批量抓取简历去训练离职预测、信用评估模型，是否还在“公开时的合理预期”之内，需要重新判断。公开不是概括授权，场景决定边界。建立“来源—授权—类别”训练数据台账，逐条标注并留存评估记录；设置个人拒绝（opt-out）通道，收到拒绝即从训练集移除。这两件事，就是未来训练数据纠纷里唯一的抗辩材料。举证规则第12条（AI生成内容侵害著作权）：开发者提出不侵权抗辩的，应当提供训练数据来源、训练过程记录、模型运行模式等予以佐证；综合考量人工智能服务类型、行业特点、训练数据来源、各方参与度、采取的必要措施以及获利情况，合理认定开发者、提供者、使用者的责任。这个安排的逻辑是：AI的运作不透明，证据掌握在开发者手里，所以举证责任必须向掌握证据的一方转移。同样的规则思路也适用于第16条——不构成商业秘密的数据、数据集合，被诉行为违反《反不正当竞争法》第十三条规定的，依法承担责任。
关于开源软件：24条在知识产权部分专门就开源软件的法律责任、专利授权确权、技术合同履行、数据使用规范作出规定。对使用开源模型、开源代码做产品的企业，开源许可的合规审查（尤其是传染性条款）不能只看“能不能商用”这一句话。
伍产品责任与自动驾驶：一个“旧尺子量新东西”的操作条文要点第9条：严格依据《产品质量法》关于“产品”的定义，将人工智能产品限定为以实物为载体的产品，比如智能机器人、自动驾驶汽车；没有实物载体的人工智能服务，被排除在产品责任之外。认定是否存在不合理危险时，综合考量产品性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度以及是否符合国家标准、行业标准等因素，并重点审查生产者、销售者是否就适用场景、固有局限及可预见的风险作出真实说明和明确警示。这一条的用意很明确：避免产品责任泛化。一个纯软件的对话模型输出错误信息，走的不是产品缺陷的无过错责任，而是第3条的过错责任。
第11条则处理自动驾驶与辅助驾驶事故：依《民法典》和《道路交通安全法》承担赔偿责任；因车辆存在产品缺陷导致事故的，可请求生产者或销售者承担产品责任；缺陷与驾驶人过错结合导致同一损害的，可同时请求驾驶人和生产者（销售者）承担赔偿责任；对自动化等级、智能程度作虚假或引人误解宣传的，消费者可依法请求担责；为查明事故原因，法院可以要求车辆生产者、销售者或运营者等数据控制方，在必要范围内提供真实、完整的自动驾驶、辅助驾驶事件记录。
这里有一条给车企的硬提示：过度宣传与真实警示之间，就是产品责任的胜负线。已有入库案例显示，主动刹车功能与宣传严重不符的，被认定构成不合理危险；而驾驶人违规、手册已警示功能局限的，则可能因缺乏因果关系而不被支持。
发布会上的答记者问里有一段值得反复读：起草论证过程中，对两件事“意见分歧很大，认识还有待进一步深化”，《意见》暂不作规定——
1. 人工智能生成内容的可版权性；2. 未经许可使用他人作品训练大模型的定性。规则不会等到共识才出场。它先把能确定的画下刻度，把没有共识的部分留给下一个案子。对企业的含义是：这两个方向的合规投入，眼下做的不是“满足规则”，而是“对冲未来规则落地时的成本”。
1. 训练数据台账（来源—授权—类别—评估记录），配套opt-out通道；2. 内容生成与审核留痕：提示词记录、生成日志、过滤策略文档；3. 通知—响应 SOP：明确接收渠道、响应时限（建议24—48小时）、处置留痕；4. 对外营销材料的宣传口径审查，删除“自动驾驶”“百分百准确”类表述；5. 开源组件与模型许可的合规审查清单。1. 第一时间固定证据：生成物、工具、指令记录、传播数据（建议公证或可信时间戳）；2. 向平台发出通知并要求停止生成，留存送达记录；3. 平台不处置的，可依《民法典》第一千一百九十五条一并主张平台责任；4. 被“仿冒名人带货”欺骗下单的，可依《消费者权益保护法》第五十五条主张惩罚性赔偿；5. 被算法不合理差别待遇的，注意固定“同商品、不同账号”的价差证据，并可申请法院责令平台提交定价数据。执业风险点第19条：诉讼参与人提交的诉讼文书、案例检索报告等材料如系AI生成，提交法庭前应当认真核实相关法律、司法解释、案例等内容的真实性、准确性，提交时对使用人工智能辅助情况作出说明，并对有关内容的真实性、准确性依法承担责任。利用AI取得虚假证据、捏造基本事实进行虚假诉讼的，依法驳回诉请，并根据情节轻重予以罚款、拘留；构成犯罪的，依法追究刑事责任。官方表述很直接：人工智能只是辅助工具，诉讼参与人不得以“AI幻觉”、技术中立为由免除自身的法律责任。据公开信息，已发现多起AI生成虚假案例被提交法庭且未核实的情形。
1. AI生成的检索报告、文书初稿，提交前逐条核验案号与法条原文，并留存核验记录；2. 涉AI取证的案件，从提示词到生成日志全程留痕，提交时主动说明使用AI辅助情况。通读24条会发现一个规律：它反复把“你采取了什么措施”写进过错评价。这意味着AI合规第一次有了明确的“投资回报结构”——不是为了应付检查，而是为了在出问题时，能拿出一整套自证材料。
这条规则会长期影响AI行业的打法。点个「在看」，转给做产品和做诉讼的同事。常驻合肥、深圳等地，关注可持续发展、公司发展与治理、劳动者权益保护等领域疑难案件。本文仅为普法与实务探讨，不构成正式法律意见；个案差异较大，具体方案请结合案情另行研判。文中案例已做脱敏处理，信息依据公开报道。 
