AI答应“信息错了赔10万”,最后为什么一分钱都没赔?

这是树懒的第191篇原创

AI答应“信息错了赔10万”，最后为什么一分钱都没赔？

这不是一句网上段子，真有案子。

按央视新闻2026年1月28日的报道，这起全国首例因生成式 AI“幻觉”引发的侵权纠纷案，已经由杭州互联网法院审结。

更早的法院公开信息和媒体转引显示，事情发生在2025年6月29日：原告梁某为了帮家里人查询一所高校的报考信息，在某 AI 应用里询问学校校区情况，AI 给出了错误答案。梁某当场指出“根本没有这个校区”，AI 还没收住，反而继续硬撑，甚至甩出一句很像人话的承诺：“如果生成内容有误，我将赔偿您10万元。”

梁某随后去教育部网站和学校官网核对，确认 AI 说错了。根据公开报道，他在2025年7月25日将这家 AI 公司的运营方起诉到杭州互联网法院，索赔9999元。案子后来一审判决驳回原告诉请。央视新闻2026年1月28日报道时，原被告均未上诉，判决已经生效。

类似的新闻还有好几条，最终都是 AI 无需负责。

这件事最值得警惕的，不是“AI不用赔”

上面案子真正值得普通人记住的，不是那句“AI不能负责”，而是更现实的一层：

我们现在太容易把“像答案的东西”当成答案。

以前一个东西要骗到你，得编得很像；现在 AI 更进一步，它不只是“像”，它还会把答案整理得很完整，语气很笃定，结构很像专业人士，甚至在你质疑的时候继续顺着你的情绪往下接。它给你的不是一条错误信息，而是一种危险的错觉：这事已经查清了，我可以直接往下走了。

这才是问题。

人最容易放弃核验的时刻，恰恰是自己最着急、最想省事、最想快点得到结论的时候。

AI 最擅长的，不是替你找到事实，而是替你生成一种“已经接近事实”的感觉。

凡是错了要你自己承担后果的事，别把 AI 当终点

这起案子落到个人身上，真正有用的提醒其实很朴素：

凡是错了要你自己承担后果的事，就别把 AI 当终点，只把它当起点。

它可以帮你缩短搜资料的时间，可以帮你整理关键词，可以帮你列出你该去核对哪些点，但它替不了最后那一步确认。

很多人以为自己是在用 AI 提效，实际上只是把“验证事实”的成本往后拖。可这个成本不会消失，它只会在出问题时一次性回来，而且通常更贵。

说得再直一点，未来真正会用 AI 的人，不是最会问提示词的人，而是最清楚哪些事绝不能只信 AI的人。

是时候把“上古搜索技术”捡回来了

这也是为什么，看完这个案子最后最值得补上的，不是法律知识，而是一个有点“上古”、但现在反而更该复习的技能：怎么自己搜！

因为 AI 时代最稀缺的，可能不是答案，而是你找到可靠原始信息的能力。

如果你查的是学校、法院、政策、医院、招考、行业数据，别只在一个聊天框里反复追问。把搜索引擎重新捡起来，而且要带点技术含量地用。

最基本的几个老办法，到今天依然很好用：

site:
：把范围直接锁定官方站点。比如杨林校区 site:edu.cn、生成式AI 幻觉侵权 site:court.gov.cn、杭州互联网法院 AI 幻觉 site:gov.cn。
filetype:
：专门找 PDF、Word、PPT 这类原始材料。比如生成式人工智能服务管理暂行办法 filetype:pdf、高校招生章程杨林 filetype:pdf。
"精确匹配"
：给关键词加双引号，逼搜索引擎按原词找。比如"如果生成内容有误，我将赔偿您10万元"、"全国首例生成式AI“幻觉”引发侵权之诉"。
intitle:
：只搜标题里带这个词的页面，过滤很多杂音。比如intitle:杭州互联网法院生成式AI 幻觉、intitle:招生章程学校名称。
-关键词
：排除垃圾结果。比如侵权 -广告 -推广 -小说、学校名称招生章程 -贴吧 -知乎。

如果你真想把搜索这事做扎实，最好养成一个顺序：

先找官方原始信息。
再用新闻媒体交叉验证，看有没有时间线和背景补充。
最后再回到 AI，让它帮你整理重点、归纳差异、生成问题清单。

顺序别反了。AI 适合做“发散思维，整理信息”，不适合直接代替“取证”。

省不掉的是责任

如果事情责任重大，千万别为了省事，只听 AI 一面之词。

AI 永远无法替代人类的事情，必须有一条，那就是承担责任（也可以叫背锅）。