夜雨聆风
第1772期【法律分析】“AI幻觉”侵权:AI虚假生成信息的法律问题探讨
撰稿：财产纠纷组 马天怡 邹金艺
排版：新媒体中心 李 欢
审核：财产纠纷组 王佩怡
中心 杨宛潞
“AI幻觉”侵权
AI虚假生成信息的法律问题探讨
01
引言
在人工智能技术呈爆炸式发展的当下，AI已全方位融入社会生活的各个角落，但“AI幻觉现象”也如影随形，成为我们生活中不可忽视的潜在隐患：写论文时想要借助AI获取可靠信息，却很可能查找到虚假文献；让AI给出建议，却发现其正在“一本正经地胡说八道”……
所谓“AI幻觉”，是指AI看似在合理地进行回答，实则却在完全失实地编造信息，这种虚假信息不仅会误导使用者，更可能引发一系列侵权问题。
本文从“我国首例生成式人工智能模型‘幻觉’直接引发的侵权责任纠纷案件”出发，简要分析AI“幻觉”侵权这一新兴法律问题，探寻其背后的法理逻辑与解决方法。
2
案情介绍
【我国首例：由生成式人工智能模型“幻觉”直接引发的侵权责任纠纷】
2025年3月，原告梁某注册使用了某科技公司的一款通用生成式AI应用。同年6月，他为查询某高校报考信息，向AI提问。不料，AI竟“言之凿凿”地编造了该校一个并不存在的主校区信息。当梁某发现错误并予以纠正时，AI不仅坚持己见，还进一步“主动承诺”：若内容有误，愿赔偿用户10万元，并建议其到杭州互联网法院起诉索赔。在梁某提供官方证据后，AI才承认错误。梁某认为AI及其背后的科技公司构成误导与侵权，遂依据该“承诺”将该公司诉至杭州互联网法院，索赔9999元。
2025年12月29日，杭州互联网法院公布了本案审理情况。法院经审理，一审驳回了原告的全部诉讼请求，理由主要集中在：AI的“承诺”不构成法律上的意思表示；被告科技公司作为服务提供者已尽到必要义务，没有过错；原告主张的损害缺乏证据。该判决现已生效。
3
争议焦点
争议焦点一：
本案中人工智能表示“若内容有误，愿赔偿用户10万元”的行为是否可以视为人工智能自身或其服务提供者的承诺进而具有法律拘束力？
①裁判结果：该行为不可视为人工智能自身的意思表示。
法条链接：
《中华人民共和国民法典》第二条：民法调整平等主体的自然人、法人和非法人组织之间的人身关系和财产关系。
《中华人民共和国民法典》第一百三十三条：民事法律行为是民事主体通过意思表示设立、变更、终止民事法律关系的行为。
说理：
在我国现行法中，民法调整的民事主体仅有自然人、法人、非法人组织三类，只有民事主体享有民事权利，能够独立做出意思表示，人工智能并非生理意义上的自然人，也并非法人、非法人组织，并不具有民事主体资格，其“若内容有误，愿赔偿用户10万元”的表示并不能视为自身做出的意思表示并具有法律拘束力。
②裁判结果：本案中人工智能表示“若内容有误，愿赔偿用户10万元”的行为是否可以视为其服务提供公司的意思表示？
说理：
鉴于在生成式人工智能服务中，创作行为需要用户提示予以激发的模式，模型与用户之间的互动交叠增强，服务提供者对于生成内容的控制力降低，服务提供者并不能当然控制人工智能的生成内容。
同时，AI并非民事主体，依据一般社会观念，该类自主生成式人工智能的回复也并不是服务公司意思表示的传达工具。
综上，该回复性质上并非服务提供公司的意思表示，不可对其产生法律拘束力。
学说（意思表示理论）：
民法学界普遍认为，意思表示是民事法律行为的核心要素。只有当一个行为能够体现民事主体的真实意愿时，才能被视为有效的民事法律行为。AI的回复虽然看似是一种承诺，但实际上是基于算法生成的内容，无法反映服务提供公司的真实意愿。
因此，根据意思表示理论，该回复不能视为服务提供公司的意思表示。
争议焦点二：
AI行为产生责任的性质定义：一般侵权责任还是产品责任？
法条链接：
《生成式人工智能服务管理暂行办法》第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。
说理：
依据《生成式人工智能服务管理暂行办法》第二条，生成式人工智能向用户提供文本内容的回答属于“服务”的一种，而非产品，因此对其规则应当采用一般侵权的过错责任，而非产品责任的无过错责任。
同时，从侵权法意义上说，生成式人工智能产生的信息并不具备高度危险性，并不适宜对其采用无过错的归责责任，且在信息快速传播的当下，对不准确的信息采用无过错责任，可能导致侵权责任的边际大幅扩大，造成恐慌。
争议焦点三：
AI行为产生的责任是否可以归于其服务提供公司？
法条链接：
《中华人民共和国民法典》第一百六十二条：代理人在代理权限内，以被代理人的名义实施的民事法律行为，对被代理人发生效力。
《中华人民共和国民法典》第一百六十五条：委托代理授权采用书面形式的，授权委托书应当载明代理人的姓名或者名称、代理事项、权限和期限，并由被代理人签名或者盖章。
《中华人民共和国民法典》第一千一百六十五条：行为人因过错侵害他人民事权益造成损害的，应当承担侵权责任。依照法律规定推定行为人有过错，其不能证明自己没有过错的，应当承担侵权责任。
说理：
根据上述分析，AI的回复不能视为其服务提供公司的意思表示，且在本案中，AI并没有经过任何形式的授权，其回复也不符合代理行为的形式要件，因此不能视为服务提供公司的意思表示。
学说（代理行为理论）：
代理人必须在代理权限内以被代理人的名义实施民事法律行为，且该行为须得到被代理人的授权。在本案中，AI并没有得到服务提供公司的明确授权，其回复也不能视为代理行为。该回复不能对服务提供公司产生法律约束力。
4
判决结果
本案中，AI的“承诺”被认定为无效，因为根据《中华人民共和国民法典》的规定，只有自然人、法人和非法人组织才能进行有效的意思表示。AI作为技术工具，不具备民事主体资格，其生成的内容不能视为有效的法律承诺。
同时，被告科技公司在提供服务过程中已尽到合理的提示和注意义务，未违反相关法律规定。原告未能提供充分证据证明其因AI的错误信息而遭受实际损害，故其索赔请求无法得到支持。
5
类案分析
No.1
我们目前尚未发现与“全国首例生成式AI‘幻觉’侵权案”完全相同的类案，但相关司法实践中存在着与AI生成内容侵权的其他案例。
AI生成图片著作权纠纷 (2025)粤0192民初26762号
案件事实：本案为侵害作品信息网络传播权纠纷。原告王某主张其通过《知识产权买断合同》受让取得案涉美术图片著作权，并提交作品登记证书及网络截图。
法院经审查认为：作品登记证书仅作形式审查且登记晚于侵权行为，不能单独证明权属；图片发布账号“AI巨匠坊”表明可能系AI生成，王某未提交创作过程证据；所有证据均无原件或可核验材料。故认定王某未有效证明著作权归属，驳回其诉请。
本案审理结果表明：并非所有AI生成内容均受保护，需个案审查“智力投入程度”。若原告仅完成基础指令输入，未参与参数调整或结果筛选，则无法满足“独创性”要件。故原告应提供创作过程、原始草稿或其他证据来进一步证明案涉图片是作品及原告享有著作权。
若案涉图片的创作过程未体现原告的个性化选择与智力投入，则其无法构成著作权法意义上的作品，原告亦无法基于著作权进行维权。
6
对使用AI的建议
在人工智能快速发展的当下，我们既不能对技术抱有“绝对正确”的迷信，也不必因个别错误而全盘否定其价值。我们在使用AI工具时应当保持基本的信息核验意识，明确自身的主体地位，将人工智能生成的内容视为“参考意见”而非“最终结论”，尤其是在涉及法律、医疗、金融等重要领域时，应通过权威渠道进行再次确认。
让我们提升甄别能力，正确使用AI，拥抱科技，尽情感受科技的美好与便利！
若有合作意向，请联系我们
电话：021-57090208
邮箱：hzfyzx2026@163.com
本文由法援同学自己撰写
不足之处望各位指出
【往期回顾】
华东政法大学大学生社会法律援助中心
更多资讯@官网@官方微博
想获得一个实时免费的法律咨询平台？亦或是了解更多的法律知识？点击标题右下方的“华政法援”或者扫描下方二维码关注我们
