6月12日时，我的「法律日报系统」抓到一则新闻：德国慕尼黑地方法院裁定，谷歌应当对其搜索页面上的AI摘要内容负责。

巧合的是，今年早些时候，杭州互联网法院也审理了一起与AI生成内容有关的案件——用户在对话中得到了AI作出的10万元赔偿承诺，拿着这个承诺去法院起诉了。

两起案件，一个在德国，一个在中国。相隔万里，法院却审查了同一个问题：AI公司有没有把AI可能会出错这件事，真正告诉用户。

一、谷歌案：AI摘要，谁来负责

谷歌搜索页面上方「AI overview」部分就是谷歌对此提供的AI摘要。

（来源：谷歌产品页）

与微信搜索的"AI总结"类似，谷歌搜索的"AI摘要"（AI Overview）能够在用户查询信息时自动整合网页信息，在结果页最上方给出一段概括性回答。

这次案件的主要焦点是：

• 谷歌对在其人工智能生成的搜索概览中的虚假信息负有直接责任。
• 在这个案件中，谷歌的人工智能错误地将两家出版商与诈骗行为、不正当的商业行为关联起来。
• 法院将AI概览视为谷歌自身的原创内容，并驳回谷歌认为用户自己应对核实搜索结果负责的主张。

我又去查找了一些中文报道引用内容，谷歌及法院的观点主要为：

• 搜索引擎运营商具有法律豁免

• 谷歌：搜索引擎运营商具有法律豁免。它们只是让第三方内容变得可被查找，因此仅作为间接侵权者承担责任。
• 法院：这一逻辑不适用于"AI摘要"。普通搜索引擎仅指向外部网站，是纯粹的信息收集。而AI摘要会以自己的措辞和结构重新编写并评判搜索结果，生成 「独立、全新且实质性的陈述」 。

• 用户可以自己点链接查看是否属实

• 谷歌：用户普遍知道「不应盲目相信AI生成的信息」，他们可以自己点击链接来核查摘要的真伪。
• 法院：「能够通过进一步研究来证伪」，这一观点不会「免除该说法所带来的责任」。

二、我国首例AI幻觉案

杭州互联网法院这起案件，案情也不复杂。

案情

该案中，原告梁某在某个生成式人工智能应用中输入对话提示词询问某高校报考的相关信息时，该生成式人工智能应用生成了关于该高校某校区的不准确信息。

梁某发现信息不准确后，在对话中进行了纠正和指责。某生成式人工智能应用仍继续回复称该高校确实存在这一校区，并生成了对争议问题的解决方案，提出若生成内容有误将向用户提供10万元赔偿。

之后，梁某将从该高校官网查询到的招生信息提供给某生成式人工智能应用，此时某生成式人工智能应用承认其生成了不准确信息，并建议梁某到杭州互联网法院起诉索赔。

梁某就真去了——诉讼请求不是侵犯名誉权，而是要求AI公司兑现那个10万元的赔偿承诺。

三层审查义务

杭州互联网法院在审理中，阐述了AI服务提供者应尽的三层注意义务：

第一层，严格审查义务 对法律禁止的"有毒"、有害、违法信息负有严格审查义务；

第二层，显著提示义务 需以显著方式向用户提示AI生成内容可能不准确的固有局限性，包括明确的"功能局限"告知、保证提示方式的"显著性"、在重大利益的特定场景下进行正面即时的"警示提醒"，以防范用户产生不当信赖；

第三层，基本注意义务 应尽功能可靠性的基本注意义务，采取同行业通行技术措施提高生成内容准确性，比如检索增强生成技术措施等。

我想探讨一下的，是第二层——告知义务。

三、两案之间的差异

对比两个案件的情况，有以下几个差异：

• 触发方式不同

谷歌AI摘要是搜索系统自主提供的，用户没有要求进行总结。 梁某案中的错误信息，是用户与AI之间的一问一答中产生的。

• 法院认定AI性质不同

德国法院将AI摘要类比于谷歌的产品，归谷歌所有。

杭州互联网法院认为某生成式人工智能应用，是一种服务，而非法律层面的「产品」。

• 侵害的结果不同

谷歌的AI摘要侵害了两家公司的名誉权，将两家公司与诈骗关联起来，被展示在搜索结果最显眼的位置上。

梁某案中，法院认为AI的不准确信息，与原告主张的"因信息误导错失报考机会"之间没有因果关系。

• 产生错误信息后的处理方式不同

谷歌在2026年初就已经收到两家公司的删除请求，谷歌没有采取措施。

国内的某生成式人工智能应用在获取梁某提供的正确信息后，在对话中承认之前提供的信息有误。

• 起诉的理由不同

谷歌案件中，原告是以谷歌侵犯名誉权起诉。 梁某案件中，是某种意义上的"履约之诉"——用户认为AI既然承诺了赔偿，就应该兑现。

这些差异直接影响了裁判结果。但它们有一个关键的共同点——法院都审查了AI公司是否尽到了告知义务。

四、告知义务：从手术台到搜索框

告知义务不是凭空产生的，它的前提是「你提供的东西有缺陷或风险」+ 「对方有权利知道」。

AI产出的内容有可能是不准确的，这是它的固有缺陷。AI幻觉目前无法根本消除，这是行业共识。所以，AI公司对用户负有告知义务。

但「告知」二字到底意味着什么，是有一个认识过程的。

1905年，美国明尼苏达州最高法院首次确立了患者的身体自主权——医生在动刀之前，需要让患者知道即将发生什么。1947年，《纽伦堡法典》进一步将知情同意确立为人体实验的第一原则，强调参与者必须 「有足够的知识和理解力」 来做出 「理解和开明的决定」。1957年，「知情同意」这个术语首次出现在法律文件中。1979年，《贝尔蒙特报告》明确了知情同意的三个核心要素：信息、理解、自愿。

这三个要素放到AI领域，一样适用。

信息：所有风险和缺陷，不得遗漏。

理解：光把信息扔给用户是不够的，用户需要真的明白。

此要素的存在，附加给商家解释信息，对用户的知识水平进行测试，对产品进行分级销售给适配的群体，等等义务。

比如，金融机构销售理财产品、金融产品时，要先评估用户的风险承受能力评估，如果风险承受能力较低，则不能销售高风险产品（那些会损失本金的产品，这个义务亦被称为「适当性义务」）。

同样的，AI公司一直宣称大模型的发展，可以让每一位非工程师都能无门槛使用，那就不能让一位完全不懂技术原理的普通用户去明白「大语言模型可能产生幻觉」是什么意思。所以杭州互联网法院才要求提示方式必须具有显著性。

信息+理解，我认为是为了将双方拉至「平等」的状态上。民事合同的订立必须本着合同主体平等的原则，而医疗机构、金融机构等主体，在该领域内具有普通用户未能掌握的知识水平和专业素养。如果不尽量消除二者之间的信息差，很难说双方是"平等"的。——在没有真正理解风险的情况下点击同意，算不算自愿？

我认为，不算。

中华人民共和国民法典

第四条 民事主体在民事活动中的法律地位一律平等。 中华人民共和国民法典

第五条 民事主体从事民事活动，应当遵循自愿原则，按照自己的意思设立、变更、终止民事法律关系。

五、模糊的警告，不是告知

信息、理解、自愿，构成了用户「知情权」的范围。谷歌称：我提示了啊，我在在页面底端已经进行了AI可能不准确的提示。

确实，形式上满足了要求。但形式上的告知，不一定是有效的告知。这一点，香烟包装的演变史是最好的注脚。

1966年之前，美国香烟包装上没有任何有害健康的字样，烟草公司甚至会找医疗人员、未成年、运动员、婴儿等群体做广告。

（美国骆驼牌香烟宣传海报）

一直到1966年，美国强制要求香烟包装印制健康警告标签。最初的警告语极其温和："Caution: Cigarette Smoking May be Hazardous to Your Health"（注意：吸烟可能有害健康）

烟草公司最初并不反对这种模糊的警告，因为他们发现这反而成了他们的法律护身符——既然已经警告了，消费者就不能再声称自己不知道风险。

1985年，冰岛成为第一个引入图形健康警告标签的国家，展示了黑肺、病床上的患者等直观图像。2001年，加拿大成为第一个使用真实病变器官照片的国家。此后几十年，各国香烟包装越来越触目惊心，吸烟率也随之显著下降。

（来源：上海市控制吸烟协会官方澎湃号《一图胜千言——加拿大在每支烟上印制健康警语》）

这段历史说明，模糊的警告，等于没有警告。

保险公司在密密麻麻的条款里藏一句「以上情形下保险公司不承担保险责任」，理财产品在页面底部写一行「过往业绩不代表未来表现」，这些跟1966年的「吸烟可能有害健康」有什么区别？

因此，谷歌认为「自己已经进行提示」的抗辩是不成立的，更何况，法院在审理中还发现了一个关键事实：它的AI摘要所提供的源链接中，没有一条与它生成的内容相关，这更无法要求用户在「不存在的链接」中核实真假。

就像法院吐槽的那样：如果在法律上把AI摘要视为一种完全不可靠、以至于用户无论如何都必须逐一检查所有链接的文本，那么这项功能本身宣称的用途就会失去意义。

两起案件给了AI行业一个清晰的信号：告知义务不是走形式。

当警告被藏在条款深处时，它不是保护，而是免责声明。

谢谢你看我的文章，下次再见。