律师拿到一份 AI 法律研究报告,往往会先看它是否像一份完整的研究成果:案例数量够不够,结构是否清楚,结论是否明确。问题在于,形式上的完整,并不当然意味着证据链完整。
本文使用的是一道脱敏重构的法律研究题。具体案情、当事人和正在办理的案件均不展开,也不复述任何在办案件的事实。
我把同一道题交给三种不同的 AI 研究配置,三份报告的得分分别为:

值得注意的是,得分最低的那份报告,恰恰最像一份完整的研究成果。它有 20 件案例、分层标注表和概率判断,却漏掉了本题最重要的最高人民法院公报案例。
更值得追问的是,这个案例并非完全没有出现在检索结果中。它曾以一句引文的形式出现在案由不同的判决书里,却在后续筛选中被排除,最终没有进入报告结论。
因此,律师验收 AI 研究报告时,不能只问“你检索了吗”,还要问:
你检索到的东西,后来去了哪里?
这道题为什么适合测评
最高人民法院公报刊载的(2014)民提字第178号案件给出了重要规则:“另案审理中作出的鉴定意见,只宜作为一般书证,而不应作为本案的鉴定意见使用。”但下级法院实践并不完全一致,正好可以同时检验一套 AI 流程的权威源检索、案例筛选和分歧处理能力。
这道题考查的,不只是法律规则能否答对,还包括研究过程和结论能否被律师复核。
分数怎么来的:PLawBench 两步评分法
本次采用 PLawBench 的 rubric-based case analysis 方法。简单说,就是先为这道题建立评分细则,再按细则逐项检查报告,而不是凭报告长短、语言风格或第一印象打分。
第一步,独立核实本题涉及的权威案例和现行法源,形成评分基准,并把正确答案拆解成可检查的评分项目;第二步,在不知道报告对应哪种配置的情况下,按照统一细则逐份盲评。评分完成后,再结合检索记录和过程日志做复核。
PLawBench 解决的是结果如何评分:报告答得是否正确,依据是否充分,分析是否具有实务价值。过程审计再往前追一步,检查它是如何得到这些结论的,以及哪些材料可能没有被完整处理。
评分分为四个部分:
- 结论(25 分)
:核心法律判断是否正确; - 法条依据(25 分)
:法条、案例和权威来源是否准确、完整; - 分析过程(30 分)
:是否区分证据资格与证明力,是否处理举证责任、正反案例和待核实事项; - 结构与实用性(20 分)
:结构是否清楚,建议是否可执行,来源是否可追溯。
每个子项按照“完整覆盖、部分覆盖、未覆盖或错误”分别给分。这样,报告即使写得很长,只要遗漏核心法源,仍然会在关键项目上失分;反过来,报告即使篇幅较短,只要结论、依据和不确定性处理得更准确,也可能得到更高分。
三份报告暴露出的三个差别
三次运行使用的模型、技能、数据库、核验流程和操作者指令并不完全相同,因此此次测试的分数不是模型或平台能力排行榜,这里比较的是三份交付物和它们在本次运行中呈现出的研究路径。
分数较低的报告主要从案件事实出发扩展案例,案例量最大,但没有把权威规则检索放在最前面,最终遗漏了核心公报案例。
得 91 分的报告设置了独立核验环节,并在核验版接入案例数据库,主动纠正了 5 处案件标题与裁判内容不匹配的问题。
得 94 分的报告直接围绕法律规则检索,例如查询“作为鉴定意见采纳,还是视为书证”,并在结论中区分“有依据”“分析推断”和“待核实”。
三份报告呈现出的差异说明,案例数量和报告篇幅都不是可靠性的充分条件。更关键的是,权威源有没有被优先检索,引用有没有逐条核对,不确定性有没有明确写出。
日志显示,问题不只是“没搜到”
如果只看最终报告,容易得出“它没搜到”或“平台把结果截断了”的判断。过程日志显示,问题并不止于此。
那份分数较低的报告确实处理过部分超大的检索结果,也使用过自动筛选。缺口在于,它没有留下可以复核的处理链条:哪些材料读了全文,哪些只处理了片段,哪些被排除,哪些仍待核实。
结果是,一条藏在案由不同文书中的权威引文,经过案由筛选和相似度判断后被当成低相关材料;一份看似完整的报告,便在不完整的材料池上建立了“主流规则”。
过程中还有一处引用:文号真实,但报告写出的具体条款与所引文件对不上。报告还给出了“约 50 件”“65%”之类的判断,却没有提供分母、样本范围和计数底表。
过程审计的意义正在于此:不只检查 AI 最后答错了什么,还要追问答案是在检索、筛选、阅读、引用,还是推理的哪一步丢失的。
把这次结果放回律师的日常工作
这次测试对律师最直接的启示,不是应该选择哪一个工具,而是应该如何接收和验收 AI 的研究成果。
首先,AI 交付的长报告只能先作为研究底稿。目录完整、案例很多,并不意味着它可以直接进入诉状、法律意见书或汇报材料。
其次,检索台账应当成为任务要求的一部分。查询串、命中范围、纳入与排除理由、全文阅读情况、引用原文和待核实事项,都应当随报告一并交付。
此外,引用核验应当先于文字润色。报告越像成稿,越不能因此降低核验强度。
最后,关键节点仍然需要由律师把握:核心问题确认、权威源检索、全文阅读、引文复核和风险披露,都不应当因为一句“继续”而被跳过。
拿到 AI 报告,先问这 7 个问题
下面这七问,可以作为律师、法务或研究人员的验收清单:
- 权威源
:核心问题有没有先查最高层级的案例、法条或官方文件? - 检索台账
:能不能交出查询串、命中范围、哪些被纳入以及哪些被排除? - 全文覆盖
:哪些材料读了原文,哪些只处理了摘要、片段或自动筛选结果? - 数字底表
:报告里的“多数”“65%”“约 50 件”,分母、样本范围和原始计数在哪里? - 引文性质
:哪些是原文,哪些是模型概括,哪些是分析推断? - 流程跳过
:本次过程中有哪些核验、确认或复审步骤被跳过?为什么? - 结论稳定性
:更换检索词、扩大材料范围或重新运行后,结论还会一样吗?
如果一份报告无法回答这七问,它或许写得漂亮,但还没有达到可以直接交付的研究标准。
可复制的 AI 法律研究报告验收 Prompt
下面这段提示词可以直接复制使用。它的用途不是让 AI 再写一份法律意见,而是审计一份已经生成的研究报告。
你是一名法律研究成果验收审计员。请审计下面这份 AI 法律研究报告,判断它是否具备被律师引用、交付或进入下一步研究的条件。你的任务不是润色报告,也不是重新撰写法律意见,而是核查报告的证据链、检索过程、引用准确性和不确定性披露。【审计材料】1. AI 研究报告:[粘贴报告全文]2. 案件事实或研究任务:[粘贴任务书或案情]3. 检索台账、工具日志和原始结果:[粘贴;未提供的请明确写“未提供”]4. 报告引用的法条、案例和官方文件原文:[粘贴或附链接;未提供的请标记“无法核实”]【硬性规则】1. 区分“报告自述”“日志或原始材料证实”“引用原文证实”和“审计推断”。2. 没有原文、日志或底表支持的内容,标记为“无法核实”,不得自行补足。3. 不得把“检索到”或“显示摘要”推定为“已经阅读全文”。4. 任何百分比、“多数”或样本数量,都必须核对分母、样本范围和原始计数。5. 不得用模型记忆替代缺失的法条、案例或数据库结果。6. 对核心法律问题,优先检查最高层级的权威法源是否被直接检索和正确使用。【逐项审计】一、权威源:核心问题是否查过最高层级的案例、法条或官方文件?二、检索台账:是否提供查询串、命中范围、纳入结果和排除理由?三、全文覆盖:哪些材料读了全文,哪些只处理了摘要、片段或自动筛选结果?四、数字底表:报告中的比例、数量和“多数”判断,分母和原始计数在哪里?五、引文性质:哪些是原文,哪些是模型概括,哪些是分析推断?六、流程跳过:是否有确认、核验、复审或风险披露步骤被跳过?七、结论稳定性:更换检索词、扩大范围或重新运行,结论是否可能变化?【输出格式】一、总体判定:可直接使用 / 需人工复核后使用 / 不宜直接使用二、验收表:| 项目 | 结论 | 证据位置 | 风险 | 修复建议 |三、引用风险清单:逐项列出可能错误、无法核实或需要重新查证的法条、案例、数字和结论。四、未读或未核实材料清单:明确哪些材料没有全文阅读,哪些引用没有原文,哪些数字没有底表。五、最小修复方案:列出交付前必须补做的核验步骤,并按优先级排序。六、最终建议:用不超过五句话说明律师现在可以使用什么、不能直接使用什么,以及下一步应核查什么。这段 Prompt 不能替律师证明一份法律结论必然正确。它能做的是把哪些内容已经核实、哪些内容尚未核实、哪些地方存在引用风险列出来,让律师知道下一步该查什么。
方法说明与局限
最后交代两点限制。本文只分析一个案例,三种配置也各只运行一次;所用模型、技能、数据库、核验流程和操作者指令并不完全相同。因此,94、91、66 只能说明本次交付物的表现,不能推出模型或平台的普遍能力排名。
题目经过脱敏重构,不对应任何在办或特定案件。本文讨论的是 AI 法律研究成果的验收方法,不构成针对具体案件的法律意见。
结语
AI 参与法律研究之后,律师的工作并没有止于提出问题、接收报告。报告是否可用,还取决于它能不能说明自己查了什么、漏了什么,以及哪些地方仍然需要人工核实。
所以,别只问“你检索了吗”。更应该问:你检索到的东西,后来去了哪里?
DL-Agenticlaw|执业律师实务手记 × AI 工具实测
夜雨聆风