夜雨聆风
随着生成式AI深度普及，“一本正经胡说八道”的“幻觉”问题频发，侵权纠纷逐年增多。杭州互联网法院审结的全国首例AI幻觉侵权案，明确了AI法律属性、侵权归责原则及平台与用户的权责边界，为企业合规运营和公众规范使用提供了司法指引。
基本案情
2025年6月，用户梁某通过某AI应用查询云南职业高校报考信息，AI生成内容存在明显偏差。梁某主动纠正并质疑，但AI持续坚持错误结论，甚至主动生成赔偿承诺：若有误将赔付10万元，并指引梁某向杭州互联网法院起诉。梁某据此认为AI虚假信息造成其经济损失，起诉该AI运营公司索赔9999元。
法院判决
法院经审理驳回原告诉讼请求，主要观点如下：
第一
AI不具备民事主体资格。
我国法定民事主体仅为自然人、法人及非法人组织，AI无法独立作出意思表示。其生成的“赔偿承诺”既非自身意思表示，也不能归属于运营公司，不具备法律效力。
第二
明确侵权归责原则：适用过错责任。
生成式AI属于服务范畴而非产品，不适用产品责任的无过错归责，而适用《民法典》一般过错责任原则。
第三
平台无过错，无需担责。
案涉运营公司已完成大模型备案与安全评估，通过多维度技术措施提升内容准确性，并在界面、用户协议中显著提示AI功能局限性，充分履行了内容审查、风险提示、技术保障三大核心义务。
第四
梁某无有效损害事实。
梁某未提交证据证明实际损失，依据“无损害则无赔偿”原则，其索赔缺乏事实依据。
合规启示
本案构建了使用者、服务提供者、监管方
清晰的合规框架：
使用者
树立“AI仅是辅助工具”的认知，正视其技术局限。涉及报考、商事决策等关键场景，必须人工交叉核验。使用者是信息使用的第一责任人，不得以“AI生成”为由免责。
服务提供者
落实分级合规义务。（1）严守内容红线，拦截违法有害信息；（2）完善风险提示，醒目告知AI内容不确定性；（3）持续优化模型精度，提升内容可靠性；（4）对专业及有偿场景实行更高标准的安全保障。
行业监管方
细化AI准入与运营标准，通过上线前对抗性检测、数据合规核验、技术规范细化等，从源头遏制AI幻觉引发的侵权风险。
结合本案及同类司法判例，国内已形成稳定的AI侵权裁判逻辑，即技术中立不代表责任豁免，AI应用必须恪守法律底线，各方在各自义务范围内各担其责。
1
END
1
作者简介
陈文伟律师，北京市高朋律师事务所高级合伙人。民建上海经济工委委员，中欧国际商学院讲师，中国政法大学点睛网讲师，中华全国律师协会经济法专业委员会委员，中国法学会民事诉讼法学研究会理事。长期为包括知名外企在内的众多客户提供全方位、多角度法律服务。
#
邮箱：
wenweichen@gaopenglaw.com
北京市高朋律师事务所
GPパートナーズ法律事務所
业
务
范
围
公司与投资、反垄断法、大型零售业、不动产、大型基础设施项目、海商海事、传媒-体育-教育产业、金融证券、知识产权、WTO与国际贸易、日本企业综合业务、诉讼仲裁。
联系方式
1
北京市高朋律师事务所
北京市朝阳区霞光里18号佳程广场写字楼 B 座 7 层
TEL：010-59241166
2
高朋（上海）律师事务所
上海市徐汇区虹桥路500号中城国际大厦23层
TEL：021-50392820
3
北京高朋（天津）律师事务所
天津市河西区马场道59号国际经济贸易中心A-1106层
TEL：022-83865168
AIを軽々しく信じるな！初の「AI幻覚」権利侵害事件
判決：ユーザーこそ第一責任者である
生成AIの普及につれて、「ディープフェイク」という「幻覚」問題が頻発し、権利侵害紛争が年々増えている。杭州インターネット裁判所が結審した全国初のAI幻覚権利侵害事件では、AIの法律属性、権利侵害責任帰属の原則、プラットフォームとユーザーの権利・責任の境界線を明確にし、企業のコンプライアンス運営及び大衆による適正な活用の司法ガイドラインとなっている。
経
緯
2025年6月、ユーザーの梁さんはあるAIアプリを通じて雲南職業大学の受験情報を検索したところ、AI生成コンテンツには明らかなミスがあることを発見し、当該ミスを是正して質疑を出したが、AIは誤った結論を押し通し、自動的に「もしミスがあれば、10万元を賠償する」旨の賠償承諾文言を生成し、かつ杭州インターネット裁判所に提訴するように導いた。梁さんは「AIの虚偽情報が経済的損失をもたらした」と判断し、訴訟を提起し、AIの運営会社に9999元を賠償させることを請求した。
判決
裁判所は審理の上、梁さんの請求を棄却した。裁判所の意見は以下の通りである。
1、AIは民事主体の資格を備えない。中国では法定の民事主体は自然人、法人及び非法人組織に限り、AIは独立して意思表示を行うことができない。AIが生成した「賠償承諾文言」は、AI自身の意思表示でもなく、運営会社に帰属することもできず、法的効力を有しない。
2、生成AIによる権利侵害責任の帰属は過失責任の原則を適用する。生成AIは製品ではなく、サービス範疇に属し、製品責任における無過失責任を適用せず、『民法典』における一般的な過失責任原則を適用する。
3、プラットフォームは過ちがなく、責任を負う必要がない。本件のAI運営会社はビッグモデルの届出と安全評価を完了しており、多次元的な技術措置を通じてコンテンツの正確性を向上させており、インターフェースとユーザープロトコルにおいてAI機能の限界を明確に記載しており、コンテンツ審査、リスク早期警告、技術保障の3つの核心的な義務を十分に履行した。
4、梁さんは損害の事実がなく、実損を証明する証拠を提出しなかったので、「損害がなければ、賠償しない」という原則に基づいて、その請求には根拠となる事実がない。
コンプライアンス上のヒント
本件はユーザー、サービス提供者、監督管理者のために明確なコンプライアンス枠組みを構築した。
1
ユーザーは「AIは補助的なツールにすぎない」という認識を確立し、AIの技術的限界を直視するべきである。受験、商事における意思決定などに係る重要な状況に対して、人間によるクロスチェックを行わなければならない。ユーザーは情報を利用する第一責任者であり、「AIが生成した」ことを理由に免責を主張してはならない。
2
サービス提供者はレベル別のコンプライアンス義務を実行するべきである。具体的には（1）コンテンツについてレッドラインを厳守し、違法・有害情報を遮断する。（2）リスクの早期警告を完備し、AIコンテンツの不確定性を目立つように知らせる。（3）モデルの精度を継続的に最適化し、コンテンツの信頼性を向上させる。（4）有償の場合は、専門的により高い基準の安全保障を実行する。
3
業界の監督管理者はAI参入許可と運営基準を細分化し、配信前の敵対的テスト、データコンプライアンス検証、技術規範の細分化などを通じて、AI幻覚による権利侵害リスクを根本から抑制する。
本件及び同類の司法判例からみて、AIによる権利侵害について、中国では安定した裁判論理を確立しており、技術が中立であることは責任免除を意味せず、AI応用は法律の最低ラインを厳守しなければならず、ユーザー、サービス提供者、監督管理者は各自の義務範囲内で各自の責任を負わなければならない。
連絡先
· END·
01
上海
TEL 021-5039-2820
住所 上海市徐匯区虹橋路500号中城国際
ビル23階
E-mail wenweichen@gaopenglaw.com
02
北京
TEL 010-5924-1166
住所 北京市朝陽区霞光里 18 号佳程広場
ビル B タワー7 階
Email yajun.tan@gaopenglaw.com
03
天津
TEL 022-2325-1569
住所 天津市河西区馬場道59号国際経済
貿易中心A座1106室
E-mail wenweichen@gaopenglaw.com
