青娱精选丨全国首案vs李小亮案:AI幻觉是否构成侵权?

一、AI幻觉侵权可能涉及的权利属性和法律基础

AI幻觉所侵害的客体一般归属于人格权益，比如自然人享有的名誉权、法人或非法人组织享有的商誉等。《中华人民共和国民法典》第九百九十条规定，人格权是民事主体享有的生命权、身体权、健康权、姓名权、名称权、名誉权、荣誉权、肖像权等权利；第一千零二十四条明确，民事主体享有名誉权，任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。《生成式人工智能服务管理暂行办法》第七条、第八条规定，生成式人工智能服务提供者应当履行内容安全管理义务，对生成内容进行审核，及时处理违法违规信息，不得侵害他人合法权益。2026年4月3日国家互联网信息办公室公布的《数字虚拟人信息服务管理办法（征求意见稿）》，进一步将可识别特定主体的虚假数字形象和虚假信息生成纳入规制范围，以强化对自然人人格权益的保护。上述条款共同为AI幻觉引发的名誉侵权、人格权侵权提供了基础法律依据。

二、AI幻觉侵权的法律构成要件

目前，我国司法实践针对AI幻觉侵权已形成相对稳定的四要件审查逻辑，该审查标准与传统名誉侵权、人格权侵权认定规则基本保持一致。

（1）侵权行为要件的核心判断标准为，AI模型生成的信息是否为虚假？相关信息是否通过网络平台公开传播？在全国首案中，AI模型生成了虚假高校信息并向用户提供，属于一般性虚假信息生成行为；在李小亮案中，百度AI智能回答模块虚构李小亮律师犯罪事实与刑罚信息，并搭配其肖像公开推送，属于指向特定自然人的诽谤性虚假信息生成行为。上述两种行为均满足“虚假”和“传播”事实，仅在行为指向性、危害性层面存在差异。

（2）主观过错是两案裁判分歧的核心，司法实践认为生成式人工智能技术的应用场景较为广泛，因此宜采取动态系统论的方法进行综合考量和具体分析。在全国首案中，法院认定服务提供者已经尽到法律规定的合理注意义务，且在当前服务场景下生成的信息并未违反法律相关规定，主观上不存在故意或过失，同时要求提供者在应用的输出层面对模型生成的海量信息内容准确性进行审查，超出了现有技术条件下的可能；而在李小亮案中，法院则认为百度公司作为专业的AI服务运营方，未对指向特定自然人的高敏感信息履行实质审核义务，并且同类AI产品未出现同类幻觉问题，足以证明运营方存在过错。

（3）损害后果要件要求侵权行为造成权利人名誉受损、社会评价降低、商业信誉减损等实际后果，这也是两案存在明显分歧的一个关键点。全国首案中，原告未能举证证明虚假信息对其造成实际损害，不满足损害后果要件；而李小亮案中，虚假犯罪信息会直接导致该律师社会评价降低，严重影响其职业声誉，具备明确损害后果。这一点构成要件将直接影响到因果关系的判断。

（4）因果关系要件要求侵权行为与损害后果之间存在直接法律关联，而司法实践通常认为因果关系的成立应采相当因果关系说。在全国首案中，案涉生成式人工智能虽生成了不准确信息，但该信息并未实质介入原告的后续决策、判断，未对其决策产生影响，因此法院认为二者不存在因果关系；而在李小亮案中，法院认为“AI智能回答”信息内容加照片一起发布具有明确的指向性，并且含有明显负面、贬损性词汇，在公开的网络空间中传播在客观上必然降低原告的社会评价，会对其产生一定的负面影响，二者存在因果关系。

三、归责原则和责任主体

全国首案明确AI侵权应当适用《中华人民共和国民法典》第一千一百六十五条第一款的一般过错责任原则，而非产品责任的无过错责任原则，因为依据《生成式人工智能服务管理暂行办法》的相关规定，文本生成属于“服务”范畴而非产品。该结论主要基于四点考量：其一，从概念与构成要件上，该服务缺乏具体、特定的用途与合理可行的质检标准；其二，其生成的信息内容本身通常不具备民法典侵权责任编所指的高度危险性，通常情况下不宜对信息内容本身采用无过错责任原则；其三，生成式人工智能服务提供者缺乏对生成信息内容足够的预见和控制能力，对生成信息内容不宜适用产品责任；其四，从政策导向看，适用无过错责任原则可能会不当加重服务提供者的责任，限制人工智能产业的发展。

针对责任主体认定，司法实践中一般会遵循“运营者担责”的核心原则，但在判断时需要结合实际情况和多种要素进行综合判断，但是明确否定了“人工智能模型作为责任主体”的说法。在全国首案中，法院明确表示“人工智能不具有民事主体资格，不能作出意思表示”。当前现行法中享有民事权利、能够作出意思表示的民事主体仅有三类：即自然人、法人和非法人组织，人工智能模型既不是生物学意义上的人，也并未被我国现行法律赋予民事主体资格，不是民事主体、不能独立、自主作出意思表示，同时其生成的内容亦不能看作是相关服务提供者的意思表示。

我国司法实践的责任认定逻辑，与《生成式人工智能服务管理暂行办法》确立的监管规则保持一致，生成式AI服务提供者作为模型研发、运营与内容输出主体，需承担直接侵权责任，若服务提供者已尽合理注意义务，可免除责任；而网络传播平台对AI生成内容未尽审核义务，未及时处置侵权信息的，需承担相应过错责任。这种责任划分方法明确了技术提供者、平台运营者的分层责任，既避免过度苛责技术主体，又可以保障权利人的合法权益。

四、AI生成内容的合理边界

人工智能生成信息需遵循内容、义务、合规三重边界：在内容边界层面，AI生成内容不得包含侵害自然人名誉、人格尊严，法人商誉、非法人组织人格权益的虚假信息，不得生成指向特定主体的诽谤性、侮辱性内容；在义务边界层面，AI服务提供者需履行风险提示、内容校核、侵权处置三项核心义务，对高敏感人格权相关信息，应建立人工复核机制，不得放任幻觉虚假信息生成传播；在合规边界层面，AI服务需符合算法备案、安全评估、内容标识等行政监管要求，严格遵循《生成式人工智能服务管理暂行办法》《数字虚拟人信息服务管理办法（征求意见稿）》等规范要求。

AI服务提供者与平台方制定的免责格式条款，不具备对抗侵权责任的效力。根据《民法典》第四百九十六条、第四百九十七条格式条款规则，提供格式条款的一方未履行提示说明义务，免除自身主要责任、排除对方主要权利的条款无效，AI服务提供者不得以用户协议中的免责条款，逃避幻觉侵权的法律责任。同样，司法实践也明确否定了AI幻觉、技术中立、不可预见等抗辩理由的免责效力，李小亮案的裁判说理中提到，既然运营方享受了AI技术带来的商业利益，就应当承担对应的内容审核责任。

五、给多方主体的建议

（一）给生成式AI服务提供者的建议

1. 针对自然人姓名、职业信息、法人及非法人组织主体信息等高敏感人格权相关内容，建立专项人工校核机制，从源头降低AI幻觉虚假信息的生成与传播概率。

2. 规范模型训练数据管理，严禁使用未经核实、来源不明的数据集训练AI模型，避免因训练数据缺陷引发幻觉侵权问题。

3. 全面履行法定合规义务，按要求完成算法备案、安全评估工作，在AI生成内容界面以显著方式提示内容局限性，不得以技术发展初期为由免除自身合规责任。

4. 对已生成的侵权虚假信息，及时采取更正、删除、公开辟谣等措施，阻断侵权损害后果扩大。

（二）给网络传播平台的建议

1. 对AI智能问答、生成式图文或视频进行发布专项审核，建立AI幻觉侵权常态化排查机制，定期清理指向特定民事主体的虚假信息。

2. 高效处置权利人侵权投诉，接到投诉后立即对侵权内容采取删除、限流、更正等措施，对反复生成幻觉侵权内容的账号，采取封禁、限制服务等惩戒措施。

3. 严格落实平台审核义务，不得以技术中立、内容为用户上传为由，免除自身对AI生成内容的审核与侵权处置责任。

（三）给监管与司法机关的建议

1. 监管机关需要进一步细化AI幻觉侵权行政监管规则，明确生成式AI服务提供者的注意义务标准，区分通用信息场景与人格权高风险场景的监管尺度，统一全行业合规要求。

2. 司法机关要统一AI幻觉侵权裁判尺度，明确过错认定、免责情形的具体适用标准，消除同案不同判现象，同时结合个案情况进行综合全面判断。

3. 平衡技术创新与人格权保护的价值关系，既不苛求AI服务提供者实现零幻觉，也不放任AI幻觉行为侵害民事主体合法权益，为人工智能产业预留合法合规的发展空间。

六、结语

面对人工智能时代下科技的飞速发展，应当坚持发展与安全并重、促进创新与权益保障相结合的原则，既要鼓励生成式人工智能服务的创新发展，也不能忽视对当事人合法权益的保护。社会公众在面对生成式人工智能高度流畅、自然的语言应答时，应提高个人警觉，认识到大模型在当前技术条件下仅仅是人们生活和工作的“文本辅助生成器”与“信息查询的辅助工具”，而非可以绝对信任或盲从的权威依据。在人工智能时代，社会公众需要更加理性地认识到AI的功能和局限，对AI自动生成的内容怀有基本怀疑精神与核查能力，一方面要充分利用好AI的创造性潜力，同时也要尽可能避免“幻觉”带来的风险。

参考文献：

[1]《生成式人工智能“幻觉”侵权纠纷案一审生效》，资料来源于“北大法宝”，法宝引证码：CLI.CR.502000011

仅需258￥起/年