AI闯了祸,被告席上坐着的是你大鹏 · 企业AI战略系列 第七篇
2026年1月，杭州互联网法院判了一桩听起来有点荒诞的案子。
一个人在用某AI应用的时候，AI在对话里给了他一段不准确的信息，还顺口"承诺"了一句：如果生成内容有误，我赔你十万。他当真了，回过头把这家AI公司告上法庭，要求兑现。
公司的辩护很干脆：那句话是模型生成的，不是我们公司的意思表示；我们该提示的都提示了，没有过错。法院最后驳回了原告的请求。但驳回的理由，比"赔不赔"这件事本身，更值得每一个用AI的企业看一眼。法院说：AI不具有民事主体资格。它不是自然人，也不是法人，法律从没给过它人格。所以它在对话框里"说"出的任何承诺，都不构成有法律约束力的意思表示——哪怕它白纸黑字写着"赔你十万"，这句话也绑不住任何人。换句话说，AI连"许诺担责"的资格都没有。它许下的责任，是空的。这是全国第一起因AI"幻觉"引发的侵权案。评析这桩案子的法律学者，把判决背后的原则总结成四个字：人类负责制——人工智能系统带来的所有好处、所有风险，最终都得由人来分、由人来扛。我在前几篇里反复讲企业怎么跟AI厂商签"离婚协议"、怎么留证据、怎么给自己留退路。但这桩案子戳中的，是一件更基本的事：当AI闯了祸，被告席上永远不会坐着AI——它没资格坐。那个空着的位置，最终要由一个真实的、有名有姓的主体来填。这一次，碰巧填上去的是一家被判无责的公司。但下一次，未必。法律里没有"AI"这个被告
我先说一个很多人没意识到的事实：到今天为止，世界上没有任何一个主流法律体系，承认AI本身是一个能够担责的主体。它不能拥有财产，不能签合同，不能被起诉，更不能赔钱。这不是技术问题，是法律人格的问题。一套追责机制要想转得起来，链条的末端必须站着一个人，或者一家公司。这恰恰是我在第四篇里讲的"责任真空"最容易被误读的地方。很多人把它理解成"出了事没人负责"。事实正相反。法律最不能容忍的就是真空。当一桩损害摆在面前、找不到一个明显的责任人时，法律不会两手一摊，它会沿着这条链条往上找——找一个有偿付能力的、对系统有控制力的、并且直接面对受害人的主体。绝大多数情况下，同时满足这三个条件的，就是部署AI的那家企业。所以"责任真空"从来不是一个真空，它更像一个漏斗。上面是模型、是算法、是那串没人看得懂的权重；底下那个收口，接着的是你。这套逻辑不是中国独有。两年前，加拿大上演过几乎一样的剧情：一位乘客被加航网站的聊天机器人误导，按全价买了本可以打折的机票，把加航告上仲裁庭。加航的辩护是——那个聊天机器人是"一个独立的法律实体，要为自己的行为负责"。仲裁员把这句话称为"一个相当离奇的主张"，照样判加航赔钱。一中一外，两套法律体系，给出的是同一个答案：AI身后，必须站着一个人。加航和那家AI公司想做的，本质上是同一件事——在漏斗中间凿一个洞，把责任卸给机器人。法律两次都告诉它们：这个洞，凿不通。在中国，这条漏斗通向"运营者"
到2026年年中，中国还没有一部综合性的《人工智能法》。立法是在推进的，司法部今年在发布会上明确说要加快推进人工智能健康发展的综合性立法；但2025年的立法计划里，原本"提请审议人工智能法草案"的表述，已经被调成了更含糊的"推进立法工作"。换句话说，专门法还在路上。这意味着，今天AI闯了祸，法院手里能用的，是一套现成的旧法：《民法典》的侵权责任编、过错责任原则、网络服务提供者的注意义务、避风港规则，再加上2023年的《生成式人工智能服务管理暂行办法》和2025年9月生效的《人工智能生成合成内容标识办法》。这套旧法处理AI的方式，学界和法院已经磨出了一个大致的框架，叫"三元结构"：模型开发者、产品运营者、最终使用者。而我把这两年的判决看下来，有一条相当清晰的规律：越靠近最终商用、越靠近客户的那一方，越容易被认定"有过错"，越容易被判赔；而上游那个真正训练了模型、提供了接口的厂商，反倒常常因为"无过错"或者"技术中立"全身而退。2025年2月，杭州互联网法院判了第一例生成式AI平台侵害信息网络传播权的案子，业内叫"奥特曼案"。生成侵权图片的是用户，平台辩称自己只是提供技术、应当适用避风港免责。法院不认。理由是：平台靠会员充值赚钱，对侵权内容有识别和干预的能力，却没建立投诉举报、风险提示、内容过滤这些机制，没尽到"合理注意义务"，构成帮助侵权，判赔三万。三万块不多。但你要看清楚法院追责的姿势：它没有去追问模型是谁训练的、训练数据从哪来，它直接问运营这个平台、靠它赚钱的人——你的注意义务，尽到了吗？更能说明问题的是另一类声音侵权、换脸侵权的案子。在一些这样的案件里，同时被告的有模型开发方、也有产品运营方。判决的结果是：运营方赔钱，而开发方因为"主观上不存在过错"，不承担赔偿责任。这就是那个漏斗的中国版本。模型厂商站在漏斗上方，你站在收口。你拿不到的那些证据，现在要用来自证清白
到这里，第五篇那个"举证责任"的问题，会以一种更难受的方式回到你面前。当时我讲的是：AI出了事，你想找厂商算账，却拿不到完整的审计日志，证不出来到底是模型错了，还是你用错了。举证的门槛，把你挡在了厂商门外。现在反过来。客户告你、监管罚你、权利人找你索赔的时候，要想脱身，你得自己证明你尽到了注意义务：你做了内容过滤，你打了AI标识，你建了投诉通道，你的决策有记录可查。可这些证据里，相当一部分依赖于厂商那套你根本看不进去的系统。模型为什么会输出那句话，触发了哪条规则，过滤为什么没拦住——这些，你拿不到。
同一道不透明的墙，你向厂商追责时，它替厂商挡着；轮到你向受害人自证清白时，它继续挡着，只不过这一次挡的是你。举证责任这个东西，在AI这条链条上几乎永远朝着同一个方向倾斜。那个方向，就是你。那张合规清单，不是做给监管看的
很多企业把"给AI生成内容打标识""留个投诉入口"这类要求，当成应付监管的形式主义。这里我想认真说一句：在眼下这套追责逻辑里，它恰恰是你最后一道防线。2025年9月生效的《标识办法》，把"对AI生成内容进行标识"，从行业里的最佳实践，变成了一项法定义务。而前面那些判决已经显出一个明确的倾向：法院会把企业违反这些行政规定的事实，直接拿来当作认定"过错"的依据。也就是说，你有没有建投诉举报机制、有没有做风险提示、有没有打AI标识，这几个看起来很行政、很无聊的动作，在法庭上是实打实地决定你构不构成"帮助侵权"的那条线。它不是合规部门的KPI。它是你被判赔和不被判赔之间，那道唯一的缝。回头看开篇那家AI公司，它最后能脱身，不是因为AI没出错——AI确实"幻觉"了，还乱许了个十万的承诺。它赢，是因为它做了大模型备案、做了安全评估、在界面和用户协议里把提示说明摆得清清楚楚。它把"我尽到了注意义务"这件事，证据齐备地铺在了法庭上。同样一桩AI出错的事，有没有这摞证据，是判无责和判赔偿的分界线。而且，事情可能不止于赔钱
到这里为止我们聊的都是民事赔偿。但有一类情况会更重。国内已经有过这样的案子：一家电商公司的人，用AI对别人的美术作品做"微调处理"，做成拼图产品卖钱。被告之一在庭上供述，他们当时的盘算是"只要经过AI处理就不算侵权"。法院不这么看——AI生成实质性相似的作品，仍然算"复制发行"；而中间加了AI这道工序，并不能切断主观故意。最后主犯以侵犯著作权罪获刑一年六个月，并处罚金。这件事的分量，全国人大代表马一德有一句话说得很准："AI不等于免责金牌。"很多人对AI有一种朴素的幻觉，觉得只要中间隔了一层算法，自己就和结果之间隔出了一层责任。这层幻觉，在民事案里让你赔钱，在刑事案里可能让你坐牢。算法不是漂白剂。指挥AI去干一件违法的事，那个"故意"，还牢牢长在下指令的那个人身上。被告席上那个空位
写到第七篇，这个系列其实一直在用不同的角度，讲同一件事。第三篇讲失效半径，是说AI崩的时候，波及的范围是你的；讲确定性边界，是说你一旦让它在边界之外替你做决定，风险自负。第四篇讲责任真空，是说出了事，表面上没人认领。第五篇讲举证责任，是说你连"到底发生了什么"都证不出来。第六篇讲厂商可能直接消失，你得提前把退路写进合同。被告席上永远不会坐着一个AI。它没有资格坐。所以每一次AI闯祸，那个空着的位置，最后都得由一个真实的、有名有姓、账户里有余额的主体来填。你跟厂商签的那份合同，管的是你和厂商之间的事，它对那个来告你的客户、那个来罚你的监管、那个来找你索赔的权利人，没有任何约束力。第三方不在你们的合同里。第三方只看谁的牌子挂在门口。所以，别再把AI的法律风险，当成一件厂商会替你扛下来的事。它不会。你真正能做的，是从今天起，把那份"我尽到了注意义务"的证据，一点一点攒起来：标识、过滤、投诉处理、决策留痕。在没有专门法、全凭法官自由裁量的当下，这份证据，是你和那纸判决之间，唯一还站得住的东西。不过，证据得有人去攒，注意义务得有人去尽。这就逼出了一个更尴尬的问题：当法律一定要在链条末端找一个真人来负责，这个真人，在你公司内部，究竟是谁？是那个签字上线的业务负责人，是写需求的产品经理，还是那个被要求"人工复核"、却根本没时间真去复核的一线员工？
夜雨聆风
