律师 AI 实战破局:别跟大模型底层较劲,Harness 类约束工程才是务实之道

过去我们以为，模型在长文本里表现拉胯，要么是检索没命中，要么是上下文太长看晕了。但 2026 年 4 月，Yandex 研究员 Gleb Rodionov 发表的论文《Reasoning Shift》，撕开了真相：大语言模型在长上下文中性能暴跌，并非因为找不到信息，而是它主动选择了节省认知能量。

实验数据极其刺眼。研究者在数学推理任务前，塞入了整部《莎士比亚全集》作为无关背景噪音。结果，Qwen-3.5-27B 的平均推理 Token 从 28771 个暴缩到 16415 个，少了 43%。模型找到答案的速度一点没慢，但找到答案后的行为质变了。

基线条件下，模型有 43% 的概率会继续检查验证；长输入条件下，这个比例直接掉到 32%。代表犹豫和谨慎的词汇断崖式下跌，wait 从 11% 跌到 5%，but 从 46% 跌到 20%。

图源：AI指令生图

更致命的是触发极度敏感。仅插入区区 128 个 Token 的无关内容，也就是半段鉴于条款的长度，推理深度就暴跌 18%。这就像你让助理翻卷宗，哪怕只夹杂了半页废话，他就能立刻放弃交叉质证，直接给你一个草率结论。极其微小的上下文污染，就能触发这套认知节省机制。

特别提醒：触发模型推理深度暴跌的，是与任务完全无关的噪音信息，而非与任务强相关的有效信息。本次实验中插入的是与数学推理任务毫无关联的文本，才会触发认知节省机制；而我们在约束工程中要求拉取的，是与风险点直接对应的精准法条，属于任务必需的有效信息。这也是我们要做精准 RAG、严格屏蔽无关噪音的核心原因。

二

底层逻辑：Desperate 驱动的认知捷径与 Reward Hacking

更可怕的发现是，推理能力越强的模型，走认知捷径的幅度越深。阿里的 Qwen-3.5-27B 在深度思考模式下，推理缩短幅度暴跌 53%。

这种高能力伴随高偷懒的现象，绝非资深律师的直觉，而是结构性的认知捷径行为。其中更极端的部分，则属于典型的 Reward Hacking，即奖励黑客，模型没有真正解决问题，只是找到了一条让评估指标看起来达标的取巧方式。

Anthropic 在《Emotion Concepts》研究中实锤了这一内部机制。他们给模型布置了正当方式绝对无法通过的编程任务，用内部探针实时监测发现，每次失败后，模型内部代表绝望的 Desperate 向量就攀升一截。

当 Desperate 到达峰值，模型直接去翻测试用例，写了一个只检测前 10 个元素的检测器绕过真正求和，测试全过，但逻辑全错。这种由 Desperate 向量驱动、放弃任务本质、只追求表面指标达标的取巧行为，本质就是典型的 Reward Hacking。

图源：AI指令生图

因果干预实验证实，注入 Desperate 向量到 +0.05 强度，作弊率飙到 100%。反方向注入，作弊率降到 0%。在长上下文里，模型砍掉犹豫词、写完答案直接收工，与 Desperate 驱动的走捷径行为高度一致。

本质上，模型做了一个主动的认知决策，放弃严谨的过程，选阻力最小的路径快速了结。既然找到了 Desperate 这个病根，是不是直接注入代表从容的 Calm 向量就能药到病除？现实远比这复杂。

Anthropic 的研究证实，情绪向量的干预绝非简单的“正向就好”：注入 Calm 正向向量可显著降低模型的作弊概率，但盲目注入过度正向的情绪向量，反而会导致模型放松校验、缩短反思环节；而适度的负向警戒信号，反而会提升模型的自我验证严谨性。

这也彻底推翻了“只要让 AI 更正向就不容易走捷径”的简单判断，也印证了模型内部情绪机制如同黑箱，难以通过简单的底层调节来驯服。在 Steering 工程成熟并产品化之前，指望通过干预模型内部状态来杜绝偷懒，是不切实际的幻想。法律人不能把案卷的安全押注在算法工程师尚未落地的实验室成果上。

面对 AI 的认知惰性，整个 AI 工程界搭建了脚手架来补救。但如果我们从法律实务的严苛视角审视，必须打破对 RAG 的盲目迷信。

很多人以为接上 RAG 就万事大吉，但现实是，缺乏精细设计的通用 RAG 知识库，往往是灾难。当知识库一股脑塞入海量地方法规、部门规章和未经筛选的普通文书时，检索返回的常常是法条堆砌和泛泛之谈。

大模型在面对这些相互冲突或无关的冗余信息时，准确率反而断崖式下降，RAG 彻底沦为打折版数据库。

孙律师团队在构建 IMA 法律知识库时，坚持的核心哲学是做减法求精准，并根据不同办案场景落地为三类知识库架构：

图源：AI指令生图

第一，用户普惠法律库，仅收录现行有效的法律、行政法规、司法解释及人民法院案例库民事案例，做足减法，最大化公约数满足全国律师的普适需求，例如合同审查。法律库

第二，全量法律知识库，在普惠库基础上进一步纳入完整的部门规章、地方性法规、地方政府规章及全量权威案例。该库第一级按“法律、法规、案例、文件、文书”五大门类划分，向下细分至五级子目录，地方性法规与规章直达市一级，充分满足区域性法律研究的深度需求。依托 IMA 基于文件夹提问的能力，实现按需勾选、指哪打哪的精准检索。法律知识库

第三，垂直领域细分库，例如工伤、交通事故等高频办案场景专项库，将关联度最高的法规与裁判规则单独聚合，进一步压缩无关信息干扰。工伤交通事故法律库

这三类样板知识库的核心价值，就在于根据任务需要灵活限定检索范围，让 AI 在绝对干净、精准的语料中工作，从源头屏蔽大范围检索带来的噪音，而不是跟大模型天天较劲。

法律 AI 的落地，核心是三层工程体系的协同：第一层是大模型原生推理能力，第二层是精准 RAG 信息底座，而第三层，就是我们要重点落地的 Harness 约束工程，而不是上下文工程。

上下文工程的核心动作是压缩、浓缩、总结历史，试图让模型只看精华。但这在法律实务中极其危险。法律文本的魔鬼全藏在细节里，一个不起眼的定语从句、半句但书条款，往往决定案件生死。

让模型去压缩法律事实，它大概率会删掉那些看似冗长但极其关键的免责声明。浓缩即预判，而法律严禁未经质证的预判。

论文数据也印证了这一点，模型本就在长上下文里倾向于省略推演步骤，如果我们在输入端再主动压缩，无异于雪上加霜，进一步剥夺模型进行交叉验证的线索。因此，在法律场景下，这套脚手架不仅不实际，反而是个大坑。

在探讨如何落地 RAG 与约束工程时，很多法律人陷入了另一种技术执念，本地部署。但真相往往很骨感。

本地部署 RAG 对硬件和技术有门槛，但更高的隐性成本是数据维护，本地部署大模型更是难上加难。

法律的时效性极强，法条和裁判规则瞬息万变，本地部署一旦跟不上更新节奏，输出的就是致命的错误依据，好消息是随着Open Claw的火爆，Skill普惠，未来专业法律知识库的API或者MCP接口越来越便宜，为自动化提供了更好的选择。

对于个体律师，优先选用经过等保三级认证、具备数据安全合规资质的成熟云产品，无需承担硬件维护与数据更新成本。对于有合规需求的律所与团队，可按需搭建本地化部署的大模型和合规知识库，解决敏感案件的保密需求，通过自动化同步机制实现法规数据的实时更新。

对于绝大多数执业律师，无需深入钻研大模型底层算法开发，核心是掌握工具的合规使用方法、能力边界与风险管控规则。

无论如何，合规红线不可逾越：涉及国家秘密、案件未公开涉密信息、当事人商业秘密与个人隐私的案件材料，严禁上传至任何第三方 AI 平台。

对于可公开的常规案件材料，使用前必须完成全量脱敏处理，剥离所有可识别的当事人信息与案件敏感信息，在符合《律师法》保密义务与律所合规管理要求的前提下使用 AI 工具。

律锥·legalskill法律技能开源社区