乐于分享
好东西不私藏

法律AI最危险的瞬间,不是"不懂法",而是"太听话"

法律AI最危险的瞬间,不是"不懂法",而是"太听话"

——智律云如何把 Claude Mythos 的思考循环,搬进法律场景

image.png

一份劳动合同,客户说:"三年期,试用期给到12个月,方便以后管理。"

一个"听话"的法律AI会怎么做?大概率是——照办。格式工整、条款齐全,几秒钟出稿,看起来无懈可击。

但《劳动合同法》第十九条写得很清楚:三年以上固定期限合同,试用期最长不得超过六个月。这份"完成得很漂亮"的合同,从签下的那一刻起,就自带一个随时可能被主张无效的坑。

这不是模型"不懂法"——这条规则大概率就"躺"在它的知识库里。真正的问题是:它没有停下来,把用户给的信息和自己知道的规则放在一起"跑一遍",看会不会撞车。它完成了任务,却没有完成正确的任务。

这也是这段时间我们一直在琢磨的问题:当 Claude 走进 Mythos 时代,法律AI 的"聪明"到底应该体现在哪?我们的答案是——不在于它知道多少,而在于下笔之前,它愿不愿意、有没有能力,先把各种"万一"在心里演一遍。这也是智律云这一轮 Copilot 升级,想要真正解决的问题。

一、Mythos时代,模型开始学会"做事"而不只是"回答"

今年6月,Anthropic 把模型序列拉出了一个新台阶——Mythos,一个位于 Opus 之上的新层级。Fable 5 是这个层级第一次真正走向公众的版本;Mythos 5 本身则先在 Project Glasswing 项目里,只向一小部分受信任的合作伙伴开放,用于高强度的攻防式安全测试。

有个细节很值得玩味:把 Mythos 级模型交出去之前,Anthropic 联合美国政府、英国 AISI 以及多家第三方机构,花了几千个小时"攻击"自己的模型——不是等上线后出问题再补救,而是提前把各种极端场景跑一遍,把模型可能被绕过、被诱导犯错的地方,一条条揪出来。

这揭示了一个朴素但容易被忽略的道理:模型越强,越不能"直接上生产"。真正配得上"更强"两个字的,从来不是给出答案的速度,而是上线之前,有没有把能想到的坏情况都认真推演过一遍。

这一点,恰恰是法律行业最缺的东西。

二、Mythos的思考过程:真正的智能,是"敢于推翻自己"

Claude 的"扩展思考"(Extended Thinking)机制,常被当作一个纯技术名词,但它背后的逻辑其实很朴素:模型在给出最终答案前,会先在内部把问题"嚼"一遍——试一条路径,发现走不通,退回来,换个角度再试,反复自我校验,直到收敛出一个真正站得住脚的结论,才把它"讲"出来。

这跟一个好律师改稿子的过程几乎一样:先写一版,再把自己切换成"对方律师"的视角挑毛病,挑出漏洞就推翻重写,直到挑不出毛病,才敢定稿。

区别只在于,Claude 把这个"自我推翻"的过程变成了一套可以稳定复现的机制,而不是依赖某次"状态好"。这正是我们想搬进法律场景的东西——不是让AI多背几条法条,而是让它养成"自我盘问"的习惯。

三、把 Loop 搬进法律场景:从 Context→Action→Verify,到"取证→推演→查漏"

Anthropic 在讲 Claude 智能体的工作方式时,反复提到一个朴素的循环:收集上下文、采取行动、验证结果,然后重新循环。这也是 Claude Code 能可靠完成复杂编程任务的核心原因——它不会一把梭直接把代码写完交差,而是先在隔离的沙盒环境里跑一遍,测试不过就回头改,改完再跑,确认安全、确认能跑通,才真正放行。

我们把这个循环,翻译成了法律场景里的三段式:

取证:不只是接收用户给的信息,还要主动核对——这些信息够不够、新不新(引用的法规是否为现行有效版本)、和用户的真实身份、地域是否匹配。

推演:这是我们认为最关键、也是目前大多数法律AI最容易跳过的一步——落笔之前,先在"沙盒"里,把这份文书或建议放进多个可能的场景里跑一遍。

查漏:把推演中暴露出的冲突、遗漏、过时依据逐条列出,收敛为一份"这里可能有问题"的清单——收敛了,才生成正式结果;没收敛,就主动向用户开口,而不是沉默地把问题埋进文档里。

Loop 三段式:取证 → 推演 → 查漏 → 收敛后生成,未收敛则主动澄清。

这套思路其实并非从零开始。用过 Copilot 的朋友可能记得,让它起草劳动合同时,它会先反问岗位是否涉及核心技术、要不要加一条职务发明和保密条款;生成合同时,也会自动核对公司注册地,套用对应的地方性规定。这一次的升级,是把这类"经验型"的追问,变成一套显式的、可复用的推演机制——覆盖的场景更广,查漏更系统,不再依赖某一次恰好"想到了"。

四、沙盒里,AI要提前演的是"万一"

回到开头那份劳动合同,放进沙盒之后,推演大致是这样:

  • • 场景一:合同期限三年——试用期的法定上限是多少?(六个月,用户说的十二个月直接冲突)
  • • 场景二:岗位涉及核心技术或产品设计——要不要补一条职务发明和保密条款?
  • • 场景三:公司注册地属于有地方性规定的城市——通用模板需不需要对应调整?
    选择思考深度是高,就可以使用 ;
    image.png

五、不是不执行,是拒绝"盲从"

有必要澄清一点:我们想要的AI,不是一个凡事都要反复确认、磨磨蹭蹭的AI,而是一个分得清"完成任务"和"完成正确的任务"的AI。

大多数请求信息完整、场景清晰,Loop 走一轮就能收敛,该多快还是多快。真正需要它"慢下来"的,是那些看起来"够用"、实际藏着冲突或空白的请求——而这恰恰是最容易出事,也最考验一个法律AI是否真正专业的地方。

一个只会"听话"的AI,和一个真正专业的法律助手,差别往往就在这一步:前者把用户说的话直接翻译成文档;后者会在翻译之前,先替用户多想一步。

写在最后

Mythos时代给这个行业的启示,从来不是"模型变得更大了",而是"更强的能力,必须配上更谨慎的验证机制"。对法律AI而言,这句话尤其沉重——我们生成的不是一段文字,而是一份可能被拿去签字、拿去起诉、拿去仲裁的东西。

把 Loop 和沙盒推演做扎实,本质上是在做一件很朴素的事:让AI在按下"生成"之前,多一次自己给自己挑刺的机会。这或许不是最快的路径,但我们相信,这是法律AI唯一该走的路径。