AI说“答错赔你十万”——它说了算吗?

梁某遇到的这事，换成我可能也愣了一下。

他用AI查某高校的校区信息，AI给了个答案，他觉得不对，就反驳。AI没死扛，反而说：“若您能证明该校区不存在，我将赔偿您10万元信息鉴定费。”

梁某认真了。他去教育部网站查，去学校官网查，白纸黑字：根本没有那个校区，AI确实撒谎了。

他截图，他存证，他起诉，把AI公司告上了杭州互联网法院。

结果——败诉了。

法院的判决逻辑很清晰：AI没有民事主体资格，它说的“我赔你”，不是“公司赔你”。它的那段话，法律上不叫“意思表示”，更不是合同承诺。充其量，那是一段概率输出的文字，和“今天天气很好”一样，不具有任何法律约束力。

我觉得这个判决判得对。

但我也理解梁某为什么会认真。

AI现在太会“装懂”了。它语气笃定，回答流畅，遇到质疑还能低头认错、主动开价。人类在这种互动里，很容易忘记对面不是人，是一台机器在猜你想听什么。

它说的话，语气越像人，越容易骗过你的判断。

这就是“AI幻觉”最危险的地方——不是它不懂，是它不懂的时候也说得像懂。

这是全国第一例生成式“AI幻觉”侵权纠纷案。法院用了一整套推理，结论落在“AI不是人，AI说的话不算数”。

但问题留下来了：

如果有一天，AI的幻觉导致了更大的损失——比如有人按它给的医疗信息用了药，按它给的法律建议放弃了诉讼——那时候，“AI不是人”这句话，够用吗？

现在这个判决，是法律面对AI的第一次回应。

我不觉得这是终点，更像是一个起点。

后记：梁某这事，败诉的不光是他。还有我们每一个觉得“AI说的应该没错吧”的人。

从今天起，AI说的话——尤其是在严肃的事上——请当成参考，不要当成答案。#AI#人工智能#判例#