夜雨聆风你搜自己的名字，AI告诉你：“此人因诈骗被判刑三年。”
你慌不慌？
这不是假设。2024年9月，南京律师李小亮在百度搜索自己名字时，百度的“AI智能回答”直接说他是“因爆炸罪被判三年有期徒刑”的罪犯——还配了他穿律师袍的照片。
一个做过多年记者、十多年律师的人，突然被AI“判了刑”。而且他根本没犯过任何罪。
这种事，不只是在中国发生。2026年5月，德国慕尼黑法院对谷歌下了狠手——全球第一次，法院判定AI搜索内容出错，谷歌必须自己担责。
一、谷歌到底干了什么？案件还原
先说清楚，这不是谷歌搜索给你推了个错误链接那么简单。
德国慕尼黑有两家出版社，一家旗下管着12个品牌，另一家以GeraMond品牌出版科技和历史类图书杂志。有一天，有人在谷歌搜索这两家公司的名字，加上德语“Betrugsmasche”（诈骗套路）这个词。
谷歌的AI Overview功能（在德国叫“Übersicht mit KI”），直接给出了一段非常“有底气”的回答：
“是的，[公司名]以可疑商业行为闻名，常被视为诈骗。”
然后还煞有介事地列出了“诈骗特征”、“危险信号”，甚至给了“防骗建议”。结构完整得像一篇调查报道。
但问题是——这些关联完全是AI自己编的。
法院调查发现，AI把其他涉嫌欺诈公司的信息和这两家原告出版社的信息掽在一起，拼凑出了一个在任何引用来源中都不存在的因果关系。换句话说，那些被引用的网页里，压根就没有提到这两家出版社和诈骗有任何关系。
更离谱的是，两家出版社发现后，给谷歌发了律师函。谷歌没当回事。2026年1月20日搜索有问题，1月26日还在，2月10日——发了律师函之后——依然在。
2026年5月28日，慕尼黑第一地方法院第26民事法庭做出临时禁令（案件号：26 O 869/26），直接给谷歌画了条红线：禁止通过AI摘要继续传播这些虚假指控。
罚则很硬：违规一次，最高罚25万欧元（约合人民币196万），或者对谷歌管理层成员处以六个月羁押。诉讼费用，谷歌承抻80%，两家原告各承抻10%。
据环球时报援引法新社6月15日报道，谷歌已明确表示将上诉，称“此案关注的是具体而细微的错误”。但法院的态度非常明确：这不是“搜索结果出了点小bug”，而是谷歌在“自己说话”。
二、AI为什么会胡说八道？
先解释一个词——“AI幻觉”。
不是说AI看到了什么不存在的幻影。专业定义是：大语言模型在生成内容时，编造出看起来合理可信、但实际上与事实不符的信息。
为什么会出现这种情况？简单说，大模型不是在“知道”答案，而是在“猜”答案。它基于海量训练数据中的统计规律，预测下一个最可能出现的词。大多数时候猜得挚准，但有时候它会把A公司的信息和B公司的信息拼到一起，然后以极其自信的口吻说出来。
本案就是典型。谷歌AI把诈骗公司的特征“嫁接”到了正常经营的出版社头上，而且语气笃定，不带任何保留。
据AI创业公司Oumi为《纽约时报》做的一项分析，谷歌AI摘要背后的Gemini 3模型，准确率大约91%。听起来很高？但在谷歌的体量下，9%的错误率意味着每小时可能产生数以百万计的错误回答。更可怕的是，即便在被认定为“正确”的样本中，也有约56%的答案在谷歌展示的来源链接中找不到直接支撑——也就是说，AI在编造看起来合理但无法追溯的答案。
皮尤研究中心在2025年3月做过一项调查，对900名美国成年人进行了约6.9万次搜索。结果让人倒吸一口凉气：当搜索结果中出现AI摘要时，用户点击摘要中来源链接的概率仅为1%。
谷歌在法庭上辩称“用户可以自行核实”。但1%的点击率说明什么？说明99%的用户根本不会去点那个链接。AI说什么，他们就信什么。
法院对此的评价堪称金句：“如果在法律上把AI概览视为一种完全不可靠、以至于用户无论如何都必须一一检查所有链接的文本，那么这项功能本身宣称的用途就会失去意义。”
说白了，你不能一边卖“权威信息”，一边说“别信我”。
三、避风港为什么不管用了？
如果你对互联网法律有所了解，一定听过“避风港原则”。
简单说就是：平台只是信息中介，如果第三方上传了侵权内容，平台在收到通知后及时删除，就不用赔钱。这个原则保护了互联网行业二十多年，是搜索引擎、社交媒体、视频平台的“免死金牌”。
但现在，这个金牌可能要被收回了。
慕尼黑法院的核心逻辑是这样的——传统搜索引擎是什么角色？“引路人”。它把第三方网站的标题和摘要排成清单，用户点进去面对的是原始来源，主语始终是“某某网站这样说”。谷歌只是帮你找到路，至于路上写的对不对，不是谷歌的事。
但AI Overview不一样。它不是给你一个清单让你自己看，而是用自己的语言和结构，把多个来源的信息重新组织、评价、总结，最后给你一个“独立、全新、实质性的陈述”。主语从“某某网站说”变成了“谷歌说”。
法院把AI摘要类比为新闻出版法中的“文章摘要或导语”：在出版行业，即使读者没看全文，出版商也要对能独立表达完整意思的标题和导语负责。AI摘要也是一样——它本身就是一个完整的陈述，用户不需要点开链接就能理解。
法院还特别强调了一点：AI概览“绝非使用互联网的必需功能”。普通搜索结果已经足够帮你筛选信息了，AI概览只是谷歌额外附加的服务，不能以“技术不可或缺”为由放宽责任。
这个逻辑一出来，谷歌就不能援引《数字服务法》中托管服务提供商的免责条款，也不能套用搜索引擎标准的“通知—删除”流程来免责。
更狠的是，法院还就言论自由做了一段论述：AI生成的“观点”不是自然人基于自身认知形成的主观信念表达，而是算法计算的产物。谷歌提供AI检索服务“首先是其商业活动的体现”，言论自由保护要往后排。
也就是说，当AI的“言论”和公民的名誉权冲突时，AI公司别想拿“言论自由”当挡箭牌。
这不止是谷歌的麻烦。法院的逻辑如果被其他司法辖区采纳，ChatGPT、Claude、Perplexity——所有以“从网络内容中自动提炼、改写、总结”为核心功能的产品，都面临同样的责任风险。
四、不只是谷歌的事
说回国内。前面提到的南京律师李小亮案，被称为“中国人工智能大模型名誉侵权第一案”。
2024年9月25日，李小亮在百度搜索自己名字时，发现百度的“AI智能回答”直接显示“李小亮律师被判三年有期徒刑”，罪名是“爆炸罪”——还配了他穿律师袍的照片。这个判决是完全虚构的，李小亮从未犯过任何罪。
他多次向百度投诉，发律师函、打政务热线、给百度邮箱发邮件。百度的回复永远是“已转交对应工作人员跟进处理”，但虚假信息始终没删干净。9月30日再搜，AI依然在说“三年有期徒刑”。
百度在法庭上的辩词和谷歌如出一轸：AI幻觉“不可预见”，属于技术发展初期的偶然现象，平台受“技术中立”原则保护。
法官当庭问了一个直击灵魂的问题：“为何在豆包、DeepSeek等同类AI上提问，没有出现这些评价？”
一锤定音。
南京江北新区法院一审认定百度构成名誉侵权，判令书面道歉。百度上诉，南京市中级人民法院二审驳回，维持原判。终审后百度未在法定期限内履行道歉义务，李小亮已申请强制执行。
国内外的司法逻辑开始趋同：AI不是简单的信息中介，它在主动加工、合成、生成内容，所以它就是内容生产者，必须对产出负责。
不过中德两国的法院在力度上有差异。德国法院让谷歌承抻80%诉讻费，违规最高罚25万欧元；中国法院考虑到AI技术尚处发展初期，只判了书面道歉，没有支持经济赔偿。南京大学法学院教授陈坤评价说，这体现了“司法审慎介入”——先在定性上坚决维护公民人格权，后在定量上灵活裁量，为AI企业留出试错空间。
但方向是明确的：以“技术中立”为由推卸责任，这条路走不通了。
其实在谷歌案之前，德国已经有过类似判例。2025年10月，德国Campact e.V.协会指控马斯克旗下的AI聊天机器人Grok在回答用户提问时，输出了损害自己公信力的不实答案。汉堡法院随后对Grok下达了临时禁令。法国律师达米安·夏洛廷在全球35个国家和地区收集了1600多起AI幻觉案例，其中美国以1116居首位。这些案例涉及捧造判例、虚构法官意见、引用不存在的法律依据等问题。
全球保险业也开始行动。据报道，AIG、大都会保险等巨头正在企业责任保险中增加AI风险“除外责任条款”；韩国政府在推动“AI版权赔偿责任保险”；慕尼黑再保险公司已推出面向AI开发者的专用保险产品。保险业集体收紧，说明它们比谁都清楚：这个雷，随时可能炸。
五、这对你我意味着什么？
先说一个可能让你不太舒服的事实：AI幻觉在短期内无法完全消除。但这个判决给所有人提了几个醒。
对AI平台来说，不能再靠一行“AI可能出错”的免责声明就万事大吉了。事前要有内容审核和风险拦截机制，尤其是涉及犯罪记录、名誉权等高敏感信息；事后要有快速纠错和投诉响应渠道。谷歌在本案中最大的失误，就是收到律师函之后没有及时处理，直接被法院判定“未作出充分回应”。
对普通用户来说，记住几件事：
第一，别把AI当“知识权威”。它不是在“知道”答案，而是在“猜”答案。遇到重大决策——升学、就医、投资、法律事务——必须通过官方渠道交叉验证。
第二，别信AI做出的任何“承诺”。杭州互联网法院在2026年1月判了一个案子：AI对用户说“如果生成内容有误，我将赔偿您10万元”，用户信了去起诉。法院判决：AI不具备民事主体资格，它说的“我赔你”没有任何法律效力。
第三，如果你被AI“造谣”了，第一时间固定证据——截屏、录屏，最好做公证。然后多线投诉：先找平台，再向网信部门举报（12377.cn），最后可以起诉。注意，被告不是AI，是平台运营公司。
第四，用AI的时候优化提示词，让它“不确定时明确告知不知道”“仅基于提供的资料回答”“给出推理过程与信息来源”。这不是什么高深技巧，但能帮你少踩很多坑。
回到谷歌这起案子。它目前还只是一项临时禁令，不是最终判决，谷歌已明确表示上诉。最终结果如何，还要看后续审理。
但慕尼黑法院已经发出了一个清晰的信号：AI时代，内容责任不能悬空。当AI以权威口吻输出答案时，它就不能假装自己只是个工具。
这个信号，全世界都听到了。
——————————————————————————————
写在最后
AI可以犯错，但不能犯了错还假装不是自己说的。谷歌这起案子标志着全球AI内容责任的第一道法律红线已经划下——不管AI多聪明，出了事，得有人负责。
——————————————————————————————
我是新知边界，一个用大白话帮你拆解AI的频道
觉得有用，点个关注不迷路↓
你有什么想用AI搞定的事？评论区聊聊，我帮你出主意！
——————————————————————————————
