AI纠纷审判意见中的责任主体与责任边界(8)

AI产品/服务提供者主体责任与特别指引梳理（5）

意见提示AI产品/服务提供者在运营管理与风险处置阶段特别注意采取程序性保障措施。

通知-处置程序方面：

• 合格通知到达后，停止生成、屏蔽指令、下架内容、保存证据、复核误伤、反馈结果，应形成可回溯流程；人格权侵害禁令还可能责令停止有关服务，但意见也同时强调禁令不得超出必要限度。（意见第7条、第8条）
• 以AI搜索引擎案为例，该案中平台“备案＋获悉后及时有效处理”的完整动作成为免责的关键事实，说明闭环处置是可被法院认可并记录为无过错证据的。
• 禁令方面，最高法2026年9月16日发布的“李某申请人格权侵害禁令案”中，张某、胡某持续煽动网络暴力、审理期间仍不停止，长春新区人民法院综合传播速度、范围、人格权类型、损害后果和事后赔偿的弥补能力，裁定二人立即停止侵权六个月。禁令的意义在于先切断传播链，但不得超出制止侵权所必需的限度。

证据留痕与举证义务方面：

• 留痕决定举证地位：1）控制书证、电子数据等证据的当事人无正当理由拒不提交，对方主张该证据内容不利于控制人的，法院可认定该主张成立；2）涉及技术原理、运行机制等专业问题，鉴定人、专家辅助人、技术调查官会进入事实查明。（意见第17条）

例如，张某与杭州某科技公司案中，平台在算法契约披露不充分时被要求就算法逻辑构造作出合理解释；自动驾驶算法技术秘密互诉案、芯片指令集案中，技术调查官多轮勘验代码和算法逻辑。这些案件共同指向一个结论：技术材料掌握在谁手里，举证压力就在谁身上；拒不提交或提交一份无法验证的说明，都可能转化为不利认定。

• 自动驾驶等场景的数据控制方有强制配合义务——为查明事故原因，法院可要求车辆生产者、销售者或运营者等数据控制方，在必要范围内提供真实、完整的自动驾驶、辅助驾驶事件记录等数据。（意见第11条）

沈某敏案已经展示了行车数据在责任划分中的核心地位——法院正是结合驾驶人违反交通信号、持续踩油门等行为事实和系统功能条件，认定事故主要由驾驶人行为导致，而非系统缺陷。数据在谁手里，谁就有配合查明事故原因的义务；数据缺位或失真，风险评价就会倒向控制数据的一方。

特别需要注意的是，诉讼时不能把锅甩给AI（意见第19条）：

• 诉讼参与人提交AI生成的诉讼文书、案例检索报告等材料，提交前应核实真实性、准确性，提交时说明AI辅助情况，并对内容负责；
• 利用AI删除或篡改生成合成内容标识、特定指令输入、选择性呈现、对抗性干扰等方式取得虚假证据、捏造基本事实的，可被驳回请求、罚款、拘留，构成犯罪的追刑责。

这类案例和报道越来越多，例如：

• 当事人方面，最高法《理解与适用》援引的李某诉熊某升房屋租赁合同纠纷案中，当事人提交的“证据照片”带AI生成标识，被法庭识别为伪造证据不予采信；武汉东西湖法院的案件中，原告用“豆包”生成虚假物流单据，单据带着“豆包AI生成”水印，法院予以警告和训诫；湖北大悟法院的案件中，代理人提交带“豆包AI生成”水印的伪造水电表照片且陈述前后矛盾，法院不予采信，因主动纠正、未造成严重后果，给予训诫并驳回相应诉请。

民诉法第114条第1款规定：“诉讼参与人或者其他人有下列行为之一的，人民法院可以根据情节轻重予以罚款、拘留；构成犯罪的，依法追究刑事责任：（一）伪造、毁灭重要证据，妨碍人民法院审理案件的……”。

• 律师方面，入库案例“任某璐诉曹某、北京某国际旅行社有限公司案”（（2024）京0112民初19067号）中：代理律师通过AI获取案例后未经核实即提交，相关案例被证实虚假；法院区分了材料属性——供参考的案例属诉辩意见而非“重要证据”，不当然构成伪造重要证据，但违反诉讼诚信和律师执业纪律，在判决书中公开批评。

民诉法第13条第1款规定：“民事诉讼应当遵循诚信原则。”

律师法第3条第1款规定：“律师执业必须遵守宪法和法律，恪守律师职业道德和执业纪律。”第二款规定：“律师执业必须以事实为根据，以法律为准绳。”

最后，意见第20条提示AI产品/服务提供者要前置刑事红线识别环节：

• 意见第20条明确利用AI实施诈骗、侮辱、诽谤、损害商业信誉商品声誉、侵犯公民个人信息、非法获取计算机信息系统数据、制作贩卖传播淫秽物品等，构成犯罪的依法追刑责；
• 意见第2条则明确刑事责任边界——“对研发应用中的创新性行为则依法审慎处理，恪守罪刑法定、罪责刑相适应”，即AI不创设新罪名，是否明知、是否牟利、后果是否严重，仍要回到各罪名构成要件。

目前已有不少相关案例，例如：

• AI
  伴侣聊天应用（Alien Chat）制作淫秽物品牟利案中，开发者改写提示词、关闭安全限制，使应用持续输出淫秽内容并牟利，一审法院认定构成制作淫秽物品牟利罪（目前还没检索到二审结果）；
• 2026
  年9月公开的余姚生成式AI制作淫秽物品牟利案中，被告人通过改写系统提示词、设定角色卡、搭建对话场景突破模型安全限制，被判刑三年一个月至三年十个月并处罚金——对输出有实质性控制、主动突破安全机制并牟利的，就是制作者。

1）对于郑某等人提出的“模型运营本意并非为提供色情内容，而是为用户提供情感陪伴，用户才是淫秽内容的实际制作者”的辩解，检察院强调“AI技术在当下阶段仍然强调工具属性”是案件定性的前提，郑某等6人对“OchatAI_bot”的开发，主观上具有利用淫秽内容牟利的意图，客观上将互动AI模型异化为制作淫秽物品的工具，设计方案紧密围绕产出色情内容进行，体现出郑某等人对该AI模型的内容输出具有实质性控制力，行为与淫秽内容产生之间存在刑法上的直接因果关系。

2）对于郑某等人“项目在境外并不违法，为了避免危害境内，才把模型放在境外运营”的辩解，在案证据（郑某等人内部聊天记录）显示，运营期间，他们发现境内用户访问该模型时会出现无法支付和后台订单统计重复的情况。对此，郑某等人不仅没有阻断境内传播、停止违规服务，反而针对性优化系统，帮助境内用户打通付费通道，主动为境内用户使用“OchatAI_bot”违法功能提供便利，足以认定其具备危害境内网络生态的主观故意。

• 个人信息方面案例更多，例如：

1）2026年5月8日最高法发布的典型案例中，林某某、王某某非法获取公民个人信息9亿余条、搭建“社工库”、在2000余人群组发布“开盒”信息，分别获刑7年和5年6个月；

2）黄某某等人非法登录学籍学历查询平台获取信息贩卖，获刑三年八个月至八个月不等；

3）入库参考案例《吴某慧、陈某强等侵犯公民个人信息案（入库编号：2025-04-1-207-001）》明确网络“开盒”公开曝光个人信息符合刑法第253条之一的以侵犯公民个人信息罪论处。

4）杭州AI换脸系列案件中，被告利用AI换脸制作虚假活体验证视频、绕过人脸识别强制登录他人账号获取数据出售，承担公开道歉、公益损害赔偿等责任并涉及刑事评价。

综上，看了意见对通用规则的指引，明天看一下两类特别指引——AI产品与产品责任、自动驾驶。

参考：

1、2026年9月16日最高人民法院司法案例研究院《最高人民法院发布人民法院网络法治典型案例》

2、2026年7月3日极目新闻《供货时仅有口头协议，男子为追讨货款竟提供AI虚假发货凭证，不仅未能追回全部货款，反而受到法院当庭训诫》

3、2025年12月28日每日经济新闻《原告向法官出示证据图，右下角竟带有“豆包AI”水印，法院处理了》

4、（2024）京0112民初19067号

5、2026年1月14日新京报《国内首起AI开发者涉黄刑案二审，“AI生成淫秽色情内容的原因”成庭审焦点，辩方：有望申请专家证人出庭》

6、2026年9月9日浙江法治报《国内游戏大厂前员工“越狱”AI大模型后，用提示词生成淫秽内容以此获利，辩称内容系用户主动触发生成，开发者无责，法院判了》；2026年9月20日最高人民检察院《将AI虚拟恋人异化为批量制黄工具，6人被判刑｜今晚九点半》

7、2026年5月8日最高人民法院司法案例研究院《最高法发布人民法院依法惩治侵犯公民个人信息犯罪及关联犯罪典型案例》