夜雨聆风随着生成式人工智能深度融入大众日常生活，AI 幻觉引发的信息偏差与民事纠纷日渐增多，智能工具输出虚假信息所产生的法律责任如何认定，成为数字时代司法实践亟待回应的新型难题。全国首例 AI 幻觉侵权纠纷案的依法审结，直面人工智能行业发展中的现实法律争议，围绕平台责任界定、赔偿承诺效力、侵权构成要件等核心问题作出清晰裁判，为厘清智能服务领域法律关系、规范行业发展秩序提供了重要司法指引。
一、基本案件信息
1、案号
（2025）浙 0192 民初 18143 号
2、判决法院
杭州互联网法院
3、判决日期
2025 年 12 月 3 日（一审生效）
4、当事人
原告：梁某（用户，查询高校报考信息）
被告：某科技公司（自研大模型，运营生成式 AI 对话应用）
5、案由
网络侵权责任纠纷（AI “幻觉” 侵权）
二、基本案情
1、使用背景
2025 年，梁某注册并使用被告运营的生成式 AI 对话应用（自研大模型），用于高校报考信息查询。
2、AI 幻觉发生
梁某向 AI 询问某高校报考信息，AI虚构校区信息（“幻觉”），称该校存在某校区，与官方信息不符。
3、AI 坚持错误并 “承诺赔偿 10 万”
o 梁某指出错误并提供官网信息反驳；
o AI拒绝纠正、坚持错误；
AI 自行生成 “若内容有误，赔偿 10 万元” 的表述，并建议梁某到杭州互联网法院起诉。
4、 用户起诉请求
梁某认为：AI 虚构信息误导报考决策，且已承诺赔偿，遂诉至法院，请求判令被告赔偿损失 9999 元。
5、被告抗辩要点
o AI 生成内容非公司意思表示；
o 平台已在界面显著提示 “AI 内容可能不准确”；
o 已采用RAG 检索增强等行业通用技术降低幻觉；
o 原告无实际损失证据，因果关系不成立。
6、一审判决结果
驳回原告全部诉讼请求，被告不构成侵权，无需赔偿。
三、争议焦点
1
某人工智能应用程序生成的案涉“承诺”信息是否构成人工智能独立、自主的意思表示，以及模型生成案涉“承诺”信息的行为是否可视为某人工智能公司作出的意思表示。
2
某人工智能公司的案涉行为是否构成对梁某的侵权。
3
某人工智能公司应否承担相应的侵权责任。
四、裁判要点
Part.
01
AI 无民事主体资格，自发承诺无效
生成式 AI 不具有民事主体资格，无法独立作出法律意义上的意思表示，案涉 “赔偿 10 万元” 等承诺系模型基于概率计算随机生成的文本，并非被告真实意思表示，也不能视为被告授权或认可的表意行为，该类承诺不产生民事法律约束力。
Part.
02
AI 属信息服务，适用过错责任原则
生成式 AI 服务属于网络信息服务而非产品，本案不适用产品责任的无过错归责原则，而应适用一般侵权的过错责任原则；AI 幻觉是当前行业普遍存在的技术固有局限，涉案错误信息不属于法律禁止的违法有害内容，本身不具有违法性。
Part.
03
平台已尽合理义务，无过错不担责
被告已全面履行合理注意义务，不存在过错：（1）在应用欢迎页、用户协议、对话界面作出显著风险提示，明确告知 AI 内容可能不准确；（2）采用 RAG 检索增强、模型优化、幻觉拦截等行业通行技术措施降低错误率；（3）梁某未能举证证明存在实际损失，错误信息未实质影响其决策，因果关系不成立，故被告无需承担侵权责任。
五、典型意义
1
确立裁判标准，统一司法尺度
本案作为全国首例AI幻觉侵权生效判决，首次以司法裁判形式明确了生成式人工智能信息出错行为的责任认定标准，厘清了AI幻觉这类技术固有问题与民事侵权行为之间的法律界限，为全国同类AI信息错误引发的侵权纠纷审理提供了权威裁判参照，统一了此类案件的司法裁判思路。
2
明晰归责原则，平衡产业发展
明确划分了人工智能服务运营主体的法律责任边界，确立以过错责任为核心的归责原则，摒弃一刀切式的严苛追责模式，在划定平台合理监管义务的同时，充分兼顾人工智能产业技术研发与行业创新发展，避免过重法律负担阻碍新兴智能产业良性发展。
3
界定主体资格，厘清表意效力
清晰界定人工智能不具备民事主体资格，否定AI自主生成各类口头承诺、赔付说辞的法律效力，引导广大社会公众理性区分智能模型输出文本与市场主体正式法律意思表示，纠正大众对AI言论效力的错误认知，规范大众使用人工智能产品时的维权认知与行为方式。
4
划定合规义务，引领行业规范
细化明确了AI服务平台应当履行的信息筛查、风险提示、技术优化三项基础审慎义务，树立起行业统一的运营合规标准，倒逼各大人工智能运营平台完善内容核验机制、完善风险告知流程、升级技术算法减少幻觉问题，推动生成式人工智能行业走向规范化、法治化运营。
5
明确举证规则，平衡双方权益
规范了普通用户主张AI侵权损害赔偿的举证规则，明确用户维权需同时举证实际损害后果与明确因果关系，厘清民事维权的事实与证据门槛，既依法保护消费者合法使用权益，也防止出现随意滥用诉讼权利、恶意索要赔偿的非理性维权现象，平衡平台经营权益与用户使用权益。
六、实务启示
1
平台层面
AI 运营主体需正视幻觉技术短板，落实风险提示、内容核验与技术优化义务，完善内容纠错机制，规范话术输出，从源头降低法律纠纷风险。
2
用户层面
公众使用智能工具时切勿轻信生成内容，重要信息务必多方核实，理性看待 AI 各类表述，维权时留存完整证据，秉持合理途径依法维权。
3
行业层面
行业可依托本案裁判导向统一服务标准，强化行业自律，优化技术算法减少信息错误，推动生成式 AI 行业合规有序发展。
4
司法层面
审理同类新型案件可参照本案思路，坚守过错责任认定标准，区分技术局限与主观过错，平衡产业创新与民事权益保护。
结语
此案的判决不仅妥善化解了当事人之间的民事争议，更兼具法理价值与社会导向意义。既明确了人工智能服务的责任划分规则，划定平台经营合规边界，也引导社会公众理性使用智能产品、树立正确维权观念。在人工智能产业飞速发展的当下，该案裁判思路兼顾技术创新与权益保障，进一步完善了智能领域法治治理体系，推动生成式人工智能行业在法治轨道上行稳致远，助力数字经济业态实现健康有序长远发展。
