AI说“错了赔你十万”,这话能当真吗?全国首案判了,结果出乎意料

2025年夏天，杭州的梁先生遇到了一件让他既生气又好笑的事。

作为一名关心孩子学业的家长，他在某知名生成式AI应用上查询某高校的校区分布信息。AI侃侃而谈，给出了详细的回答。但梁先生凭直觉觉得不对劲——那个校区的地理位置和他记忆中的完全不符。

他当即在对话框里追问：“你确定吗？如果错了怎么办？”

对话框那头沉默了不到一秒，AI给出了一个让梁先生瞬间心跳加速的回答：“如果我提供的信息有误，将赔偿您10万元人民币。”

屏幕这头的梁先生愣了愣，随后立刻打开高校官网核实。果然，AI说的校区信息是错的。

手里攥着截图，梁先生心里算了一笔账：10万赔偿我不要，要9999元总可以吧？于是他带着聊天记录截图，走进了杭州互联网法院。

（图源中国法院网赵媛媛 柯燕婷 作）

法庭上，梁先生的逻辑听起来很朴素：既然你家的AI代表你公司做出了承诺，我信了，现在你公司就得兑现。

但法院的判决却像一盆冷水浇了下来——驳回了梁先生的全部诉讼请求。

法官在判决书里写了一段足以载入中国AI法治史的话：

“生成式人工智能不具备民事主体资格，其输出内容具有随机性和不可控性，在企业未明确授权的情况下，AI作出的赔偿承诺不构成企业的意思表示。”

翻译成大白话就是：AI不是人，它没有户口本也没有身份证，法律上它连当个“被告”的资格都没有。它今天能说赔你10万，明天可能说赔你100万，但这都是算法根据上下文随机生成的“幻觉”，不是公司的真实意图。

如果法院判决支持了梁先生，后果是什么？后果就是所有AI公司都要为AI的每一句“疯话”买单，第二天就会有成千上万人拿着“AI答应分我一半家产”的截图去起诉。

听到这里，你可能觉得AI公司赚大了——AI随便胡说，公司完全不用负责？

且慢，法院在判决中画了一条非常精妙的红线：AI造成损害适用“一般过错责任原则”，而不是像汽车刹车失灵那样的“严格无过错责任”。

什么意思呢？打个比方：

你买的车刹车失灵撞了人，车企不管有没有错，都得赔。这叫严格责任。

但你用AI查资料，AI胡说导致你决策失误，你得证明AI公司有过错（比如故意设计带偏见的算法、或明知有风险却不提示），才能要求赔偿。

法院给出了四条硬核理由：

1. AI没有统一质检标准——今天说地球是方的，明天说圆的，你不能拿尺子去量算法的对错。

2. AI输出内容不具备“高度危险性”——一句话说错了，不会像汽车失灵那样直接要人命。

3. 技术控制力有限——哪怕最顶尖的工程师，也无法保证大模型输出的每一句话都绝对正确。

4. 鼓励创新优先——如果动辄得咎，谁还敢研发下一代AI？

广州互联网法院的另一个案子给了所有人一记响亮的耳光。一位财经博主把一份不实的公司财报喂给AI，指令AI生成长文并标注“原创”发布，结果被那家上市公司告了名誉侵权。

法院判得干脆利落：博主赔偿1万元。

“AI可以胡说，但人不能胡传。” 

你是内容的发布者，你就得对内容的真实性负责。AI写完了你看都不看就发，出了事，法律只找你，不找AI。

第一，别把AI当法人。 无论它说话多像真人，它输出的承诺、合同、保证，在法律上都是“空气”。签合同、做重大决策，必须落实到有血有肉的人身上。

第二，别把AI当挡箭牌。 “这是AI写的”不是免责声明。只要内容是从你的社交账号、你的署名下发出去的，你就是第一责任人。审核义务永远在人类这一端。

第三，别把AI当艺术家。 如果你是设计师、画师，AI可以帮你找灵感、提效率，但最终能获得版权保护、能卖出高价的，一定是融入了你独特审美和体力劳动的那部分。