ARTICLE · 1085792
场景化+控制力:AI 如何运转,责任如何分配(最高院AI意见解读第一篇)
场景化+控制力：AI 如何运转，责任如何分配
首部涉人工智能司法裁判规则文件。不新创规则，只把现行法“翻译”到 AI 场景。读懂这条技术链条＋控制力，是后续所有场景的钥匙。
编者按
2026 年 9 月 7 日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（下称《意见》）。它给出的是场景化、分层化的裁判方法，判断责任的核心工具是“控制力”：谁能预见风险、谁能控制风险、谁从风险中获益、谁拒不作为，责任就落在谁身上。
01
PART
AI 如何运转：一条技术链条
THE TECHNICAL PIPELINE
AI 的运转，尤其是今天的大模型和智能体，与神经网络“输入—计算—输出—执行”的结构同构。我们用一张图把这条链画出来——它既是技术真实，也是法律简化的抓手。
① 输入
输入层
② 计算／推理
隐藏层
③ 输出
输出层
④ 行动
执行器
四个环节对应神经网络的四层——这正是法律可以着力的四个观察点
环节
技术含义
神经网络对应
通俗一句话
① 输入
提示词、上传文件、环境感知
输入层
你向 AI 喂了什么
② 推理
模型内部加权、层层变换、训练
隐藏层（黑箱）
AI 内部怎么算（法律不穿透）
③ 输出
生成的文本、图像、音频、决策
输出层
AI 吐出了什么
④ 行动
调用工具、控制机器、自动驾驶
执行器
AI 直接做了什么（进物理世界）
这里有一个贯穿全系列的关键理解：“隐藏层”（② 计算／推理）整体被视为不可穿透的黑箱，而“输入、输出、行动”是可观察、可控制的环节。原因很简单——责任必须落在人能控制的事情上。黑箱内部，人（甚至厂商自己）都难以完整解释，除非存在明显的人为控制或算法歧视。
这个四环节框架，能接住几乎所有 AI 形态，也是后续分场景的坐标系：
大模型问答：只有“输入＋计算＋输出”，无“行动”； AI Agent（智能体）：“输出”升级为“行动”，会自行调工具、编排任务； 具身智能／自动驾驶：“行动”进入物理世界，可能造成人身财产损害； 大数据杀熟：“输入”是个人数据，“计算”是定价算法，“输出”是差异化价格； AI 换脸拟声：“输入”是他人肖像／声音素材，“计算”是合成模型，“输出”是伪造形象。
02
PART
谁在链条上：参与方如何被安放
ACTORS & CONTROL
技术的每一步，都站着一个“能控制这件事的人”。这就是控制力的落点，也是《意见》判断责任主体的根本方法。一个典型的 AI 应用，会涉及基础模型开发者、API 服务商、应用层企业、数据提供方、最终用户等。
各方之间的合同性质和法律关系如下：
关系
合同性质（法律定性）
关键说明
① 开发者 → API 商
技术许可＋技术服务合同（MaaS）；开源则叠加许可证
让渡调用能力，保留所有权；开源模型另受许可证约束
② API 商 → 应用层
技术服务合同或技术许可；本质是持续技术服务，非买卖
软件／API 主流认定为技术合同，不适用买卖规则
③ 应用层 → 用户
用户协议／服务合同（格式合同）
应用层是面对用户的“服务提供者”，担第一性对外责任
④ 数据方 → 开发／应用
数据买卖／许可＋标注承揽；涉个人信息：委托或共同处理
共同处理（个保法第 20 条，连带）是重要风险点
⑤ 用户 ↔ 应用层
交互数据：委托处理 vs 共同处理之争
厂商是否用对话数据改进模型，决定责任形态
但合同角色不能替代法院对“实际行为、参与程度、控制能力”的判断。法院实际看的是：谁选择场景、谁决定算法、谁提供数据、谁调整提示词与工作流、谁直面用户、谁能停止输出。王宏浩律师在其专栏里把这一点讲得最透：合同角色解决内部追偿，法定责任看风险实际被谁控制、被谁引入、被谁阻断。
把参与方放进技术链条，每一环的“功能与价值”就清楚了——这也是控制力的具体落点：
环节
参与方
功能与价值
控制力所在
输入
使用者／网络用户
发起指令、设定场景、上传素材
决定“喂什么、怎么用”
输入
数据提供方
供给训练语料、用户画像数据
决定“数据从哪来”
计算
基础模型开发者
训练基础模型、设计底层安全机制
控制训练数据、模型能力
计算
API 服务商
提供调用接口、账号治理、部分过滤
控制调用权限、停止服务
计算
开源社区
开放模型／框架，公开功能与风险
决定开放方式、披露程度
输出
生成式 AI 服务提供者
面向公众提供生成服务
控制内容过滤、生成规则
输出
应用层企业
封装模型、配置提示词／知识库／工作流
控制知识库、输出规则
行动
部署者／运营者
把模型接入物理执行
控制物理风险
行动
生产者／销售者
制造、销售具身产品
控制产品缺陷
关键一句：责任不是沿“模型谁开发的谁负责”平均分配的，而是沿控制力重新分配的。风险在哪一环被引入、被放大，谁最能预见、最能阻断，谁的责任就最重。
一个典型的企业级 AI 技术链是：基础模型 → API 服务 → 微调／RAG → SaaS 应用 → 企业客户 → 最终用户。每一层控制的东西不同，责任也随控制力层层转移。
03
PART
责任如何分配：源于既有法律规定
WHERE LIABILITY COMES FROM
这是全系列第二张“地基图”。AI 侵权责任的来源，绝大多数来自既有法律，《意见》只是把规则“翻译”到 AI 场景里。明确法律在 AI 场景下怎么适用。
《意见》没有规定“所有 AI 侵权统一适用过错责任”，而是延续现有侵权法体系：
法律有特别规定的，用特别规定——产品责任（无过错）、个人信息（过错推定）等； 没有特别规定的，回到《民法典》第 1165 条第 1 款的一般过错责任。
归责六因素
判断过错时综合：① 应用场景 ② 自主化程度 ③ 技术与信息透明度 ④ 潜在风险及影响范围 ⑤ 相关主体预防措施及技术可能性 ⑥ 使用者对损害的预见与控制能力。
把参与方放回技术链条，每一环都对应着明确的法律规定。
环节
责任来源（源于哪些法律规定）
对应条文
输入
用户过错（民法典第 1165 条）；数据来源合法性（个保法第 13、27 条，公开信息“合理范围”）
第 6、7、12 条
计算
过错责任＋透明度义务（民诉法举证）；开源责任豁免（结合许可、披露、控制力）
第 3、12、13、17 条
输出
过错责任＋注意义务（内容过滤）；避风港（通知—阻断再生成，源于民法典第 1195 条网络侵权逻辑）
第 7、8、12 条
行动
产品责任（产品质量法，以实物为载体，无过错）；自动驾驶按份责任（民法典第 1172 条）
第 3、9 条
后果
损害类型决定归责路径（人格权／知识产权／产品责任／司法秩序四大主线）
第 4—10 条
黑箱只会改变举证方式，不会让责任消失。它把举证责任向“掌握技术事实的一方”倾斜——这正是《意见》第 17 条“证据偏在＋证据妨碍”规则的意义。掌握训练数据、模型版本、日志的一方，不能一边独占事实，一边要求对方证明黑箱里的每一个环节。
黑箱改变的是“怎么找证据”，不是“有没有责任”。
04
PART
两张图，撑起整个系列
THE TWO MAPS
至此，本系列的两张“地基图”已经立起来了。后续每一篇文章，都在这两张图上展开：
图一 · AI 如何运转
技术链条＋参与方＋控制力——回答“这一步谁在控制”。
图二 · 责任如何分配
归责原则＋责任来源＋法律规定——回答“这一步责任从哪来”。
落实到具体场景就是：把某个场景“挂”回链条的某一环，用控制力分析谁该负责，再落到具体法律条文，讨论为什么这样分配、有什么遗漏、有哪些典型案例。
CLOSING
责任不按“谁开发模型”平均分配，而按“谁控制风险”重新分配——黑箱改变的是举证责任，不是责任本身。
若这篇帮你建立了认知框架，点个赞／在看，或转发给同样在用 AI 的同行
THANKS FOR READING
本文为原创内容，转载请注明出处。