乐于分享
好东西不私藏

离谱!律师用 AI 编造 “完美案例” 被写入判决书!法院明确:AI 工具不豁免专业责任.

离谱!律师用 AI 编造 “完美案例” 被写入判决书!法院明确:AI 工具不豁免专业责任.
生成式 AI 的普及,正在深刻改变法律行业的工作方式。法条检索、文书起草、类案检索等工作,都可以通过 AI 工具高效完成。但与此同时,“AI 幻觉” 带来的风险也逐渐蔓延至司法领域 —— 律师直接将 AI 生成的虚假案例作为参考依据提交法庭,已不再是个别现象。
2025年12月,北京市通州区人民法院审理的一起案件正式入选人民法院案例库,成为全国首个规制 “AI 生成虚假案例” 的典型判例。该案明确划定了法律从业者使用 AI 工具的边界,也为所有律师敲响了警钟:技术可以辅助,但责任必须自负。
01
离谱案情:AI生成 “完美匹配” 案例,被法官一眼识破
(一)案件背景
这是一起由代持股引发的与公司有关的纠纷,原告任某璐起诉被告曹某及北京某国际旅行社有限公司,要求赔偿相关损失。由于原告诉讼请求所涉法律问题较为少见,承办法官在庭审中告知原告代理律师,可在庭审后提交补充代理意见及相关参考案例。
很快,法官收到了原告代理律师杨某邮寄的书面代理意见,其中附带了两个看似极具说服力的参考案例:
  • 最高人民法院(2016)最高法民再 301 号
  • 上海市第一中级人民法院(2022)沪 01 民终 12345 号
这两个案例的事实细节、法律争议焦点与裁判逻辑,与正在审理的案件高度契合,几乎是 “量身定制” 般完美支持了原告的诉讼主张。法官助理初看时也十分惊讶:“这么冷门的诉求,居然能找到两个完全匹配的权威判例。”
(二)破绽暴露
但职业敏感让郑法官产生了怀疑。这两个案例的格式和行文风格,带有明显的早期AI 生成特征:表述过于规整、逻辑过于顺滑,却缺乏真实裁判文书常有的细节和瑕疵。
为核实案例真实性,法官通过人民法院案例库、中国裁判文书网等权威平台,对两个案号进行检索。结果令人震惊:
  • 最高人民法院(2016)最高法民再 301 号确实存在,但案件性质为建设工程施工合同纠纷,与股权代持毫无关系;
  • 上海市第一中级人民法院(2022)沪 01 民终 12345 号是一起民间借贷纠纷,裁判观点与原告律师提交的内容完全相反。
(三)律师承认:案例由 AI 生成
在法官的当面质询下,原告代理律师杨某终于承认,这两个参考案例并非真实判例,而是她将本案的事实情节和争议焦点提炼为关键词,反复向某 AI 大模型提问后,由 AI 自动生成的
杨某表示,自己看到 AI 生成的案例与本案高度匹配,便放松了警惕,没有进行任何核实,直接复制粘贴到了代理意见中提交给法院。她主观上并无伪造证据、误导法庭的故意,只是出于对 AI 工具的过度依赖,忽视了律师最基本的核验义务
(四)法院处理结果
北京市通州区人民法院经审理认为,原告代理律师提交虚假案例的行为,违反了民事诉讼诚信原则和律师职业道德。但考虑到其主观恶意较小,情节轻微,未造成案件裁判错误等严重后果,最终未对其采取罚款、拘留等司法强制措施,而是将这一情节明确写入判决书,予以严肃批评
“本院对此提出批评,希望原告代理人引以为戒,在向法院提交参考案例、法条时,应当进行检查和核验,确保内容的真实性和准确性,不得放任人工智能模型生成或者编造虚假信息扰乱司法秩序。”
2025年4月10日,法院作出一审判决,部分支持了原告的诉讼请求。宣判后,双方当事人均未提起上诉,判决已发生法律效力。
02
法律定性:提交虚假案例,不是 “伪造证据” 但仍需担责
本案中,法院并未依据《民事诉讼法》第一百一十四条关于 “伪造证据” 的规定对律师进行处罚,这一裁判尺度引发了广泛关注。其核心原因在于,参考案例在法律性质上属于诉辩意见范畴,而非民事诉讼证据。
(一)参考案例≠民事诉讼证据
《民事诉讼法》第六十六条明确规定的证据包括:当事人的陈述、书证、物证、视听资料、电子数据、证人证言、鉴定意见、勘验笔录。
而律师提交的参考案例,本质上是为了论证己方观点的法律分析材料,其作用是辅助法官理解法律适用、统一裁判尺度,并非用于证明案件事实。因此,提交虚假参考案例的行为,不符合 “伪造、毁灭重要证据” 的构成要件。
(二)违反的核心法律原则:诉讼诚信原则
虽然不构成伪造证据,但该行为仍然具有明确的违法性,违反了《民事诉讼法》第十三条第一款规定的民事诉讼诚信原则。
诉讼诚信原则要求所有诉讼参与人在民事诉讼活动中,应当诚实守信,如实陈述事实、提交真实材料。律师作为法律职业从业者,更应当恪守 “以事实为根据,以法律为准绳” 的执业准则,对提交法院的所有材料负有真实性保证义务。
(三)不同情节的法律后果梯度
结合本案及司法实践,对于提交 AI 生成虚假材料的行为,法院将根据情节轻重,采取梯度化的处理方式:
  1. 情节轻微:主观无恶意,未造成严重后果的,予以批评教育、在判决书中训诫(如本案);
  2. 情节较重:多次提交虚假材料、故意误导法庭、造成司法资源严重浪费的,参照《民事诉讼法》第一百一十四条规定,予以罚款、拘留;
  3. 情节特别严重:利用 AI 伪造证据、虚构事实,构成虚假诉讼的,依法追究刑事责任。
03
更严峻的风险:AI 伪造证据已进入司法实践
比提交虚假参考案例更值得警惕的是,利用 AI 技术伪造证据的行为已经出现,且手段越来越隐蔽。
2024 年,湖北省孝感市大悟县人民法院审理了一起房屋租赁合同纠纷案。原告为证明自己主张的水电费金额,向法院提交了一张水电表读数的照片作为证据。法官在审查时发现,照片角落带有明显的“AI 生成” 水印
经质询,原告承认该照片是其使用 AI 绘画工具生成的,目的是为了夸大自己的损失。法院认为,原告的行为违反了诉讼诚信原则,妨害了民事诉讼秩序,依法对其予以当庭训诫
需要特别明确的是,伪造证据与提交虚假参考案例的法律后果截然不同:
  • 伪造证据属于《民事诉讼法》第一百一十四条明确规制的妨害民事诉讼行为,法院可直接予以罚款、拘留;
  • 若伪造证据的目的是为了提起虚假诉讼,骗取法院裁判文书,则可能构成《刑法》第三百零七条之一规定的虚假诉讼罪,最高可判处七年有期徒刑,并处罚金。
04
全球共识:AI 工具不豁免律师的专业责任
AI 生成虚假材料干扰司法秩序,并非中国独有的问题。2025 年,英国高等法院合并审理的 Ayinde 诉伦敦哈林盖区、Al-Haroun 诉卡塔尔国家银行两案,同样聚焦于律师不当使用 AI 的法律责任问题,其裁判规则与我国通州法院的判决高度一致。
(一)英国两案核心裁判观点
英国高等法院在判决中明确了三项核心原则:
  1. 律师对提交法院的所有材料负有最终责任:无论使用何种工具,律师都必须对材料的真实性、准确性进行独立核查,AI 工具的局限性不能成为豁免专业责任的理由;
  2. 未核实 AI 生成内容构成专业失职:律师未对 AI 生成的案例、引注进行核实,即提交法院的行为,违反了律师执业行为规范,构成专业失职,将面临行业纪律处分;
  3. 律师事务所负有监管义务:律师事务所应当建立健全 AI 使用管理制度,对下属律师使用 AI 工具的行为进行监督和审核,否则将承担监管疏漏的责任。
(二)全球法律行业的共同应对
目前,美国、英国、加拿大等多个国家的律师协会都已发布指引,明确要求律师在使用 AI 工具时:
  • 必须对 AI 生成的所有内容进行人工核验;
  • 应当向法院和对方当事人披露 AI 工具的使用情况;
  • 不得将 AI 生成的虚假材料作为证据或参考依据提交。
05
律师使用 AI 的正确边界:工具辅助,人工主导
生成式 AI 无疑是法律行业的生产力工具,能够大幅提升工作效率。但所有便利都必须建立在 “人工主导、全程核验、责任自负” 的基础之上。结合本案及全球监管规则,律师使用 AI 工具应当守住以下三条边界:
(一)AI 只能做 “辅助者”,不能做 “决策者”
AI 可以用于:
  • 快速检索法条、整理裁判观点;
  • 生成法律文书初稿、梳理案件争议焦点;
  • 辅助进行法律分析、提供诉讼策略参考。
但 AI 绝对不能替代律师的专业判断,更不能未经核实直接输出最终成果。所有 AI 生成的内容,都必须经过律师的逐字审核、修改和确认。
(二)所有引用必须溯源核验
对于 AI 生成的案例、法条、学术观点等引用内容,必须通过人民法院案例库、中国裁判文书网、北大法宝等权威平台进行溯源核验,确保真实准确。严禁直接复制粘贴 AI 生成的案例、引注,更不能编造不存在的判例。
(三)主动披露 AI 使用情况
虽然目前我国法律尚未强制要求披露 AI 使用情况,但从职业伦理和风险防范的角度出发,建议律师在提交的法律文书中,主动说明 AI 工具的使用范围和程度。这既是对法庭的尊重,也是对自身的保护。
06
阿庭观点
通州法院的这起案例,是人工智能时代司法裁判的一个标志性事件。它以最温和的方式,传递了最明确的信号:法庭的庄严与法律的权威,永远建立在真实之上。
技术本身没有善恶,但技术的使用者必须守住底线。对律师而言,AI 是笔,不是脑;是工具,不是替身。当事人委托律师,是基于对其专业能力和职业操守的信任,而不是对一个算法模型的信任。如果律师为了图省事,将最核心的法律判断和事实核验工作交给 AI,不仅辜负了当事人的信任,也违背了法律职业的初心。
对司法机关而言,面对 AI 带来的新挑战,应当加快完善相关规则,明确不同行为的法律边界,建立健全 AI 生成材料的审查机制。同时,法律行业协会也应当加强对律师的 AI 素养培训,引导行业正确、合规地使用 AI 技术。
最后,提醒所有法律同行:在法庭之上,每一个案例、每一条法条、每一个事实,都关乎当事人的切身利益,关乎司法公正的实现。心存敬畏、坚守真实,是我们永远不能逾越的底线。
本文为法律实务分析,不构成针对个案的法律意见。如遇相关法律问题,建议咨询专业律师。