用力学思维重新设计 AI 的约束机制

上一篇《让 AI 不跑偏，可能是整个 AI 时代最难的工程问题》聊了一个问题：AI 循环为什么会跑偏。核心结论是，现有的约束机制太原始了，不管 AI 偏多远，反馈的力度都一样。

今天想聊的是：有没有更好的约束方式？

我有一个来自物理世界的直觉，值得讨论。

一、弹簧为什么不会偏离平衡位置

你压一根弹簧。

轻轻压一下，它轻轻推你的手。使劲压，它使劲推。压到极限，它会把你的手弹开。

弹簧有两个非常厉害的特性。第一，它始终知道自己偏离平衡位置有多远。第二，它的回复力跟偏离程度严格对应。偏得越多，拉回来的力越大。

这两个特性合在一起，保证了一件事：弹簧不管怎么被压、被拉，最终都会回到平衡点。它不会在偏离的方向上越走越远。

现在看 AI 循环里的约束。

AI 偏了一点点，反馈是"测试没过"。AI 偏了十万八千里，反馈还是"测试没过"。

没有偏离程度的感知。没有力度的分级。没有"你已经离目标越来越远了"的信号。

这就像一根失去了弹性的弹簧，不管你怎么压，它给你的反作用力都是一样的。甚至连反作用力都没有，只是被动地告诉你一个结果：没过。

如果能给 AI 的约束系统装一根真正的"弹簧"呢？

二、翻译成工程语言

弹簧有三个可以借鉴的特性。

第一个：回复力跟形变成正比。偏得越多，拉回来的力越大。翻译成 AI 约束的语言就是：AI 偏离目标越远，它收到的反馈应该越强烈、越具体、越具有约束力。

第二个：有一个自然平衡点。弹簧知道自己该回到哪里。翻译过来就是：约束系统需要有一个明确的"目标状态"的定义，作为衡量偏离程度的基准。

第三个：超过弹性极限会触发完全不同的响应。弹簧压到极限会断裂或者锁死。翻译过来就是：当 AI 偏离超过某个临界值，不应该继续"再试一次"，而应该触发一个本质不同的处理方式，比如完全停下来，或者强制切换到一个全新的方案。

这三个特性对应三个工程设计层。我把它们叫做偏离检测层、分级响应层和弹性极限层。

三、偏离检测：不只是看红绿灯

第一个问题：怎么知道 AI 偏了多远？

现在的主流做法是看测试通不通过。但通过/不通过是一个二值信号，它携带的信息量太少了。

如果我们计算一个连续的偏离度呢？

可以同时观察好几个维度。

失败测试的数量在增加还是减少。如果这一轮比上一轮多了三个红灯，说明 AI 在远离目标，不是靠近。如果少了两个，说明方向大体对，可以继续。

AI 是否在反复修改同一个文件。如果过去五轮里，同一个文件被改了四次，这是一个很强的信号：AI 在原地打转。它反复在一个点上折腾，说明它没有找到问题的根本原因，只是在表面上反复修补。

代码改动的范围是否在扩大。第一轮改了两个文件，第三轮改了五个，第五轮改了十个。这说明 AI 在发散而不是收敛，它越来越迷失，开始到处乱改。

这一轮的产出跟上一轮有没有实质变化。如果两轮的 diff 几乎一样，说明 AI 在做差不多的事情但期待不同的结果，这是经典的无效循环。

把这几个维度加权算出一个综合偏离度。这个数值不需要精确到小数点后三位，但需要能区分"差一点就到了"和"南辕北辙"这两种完全不同的处境。

四、分级响应：偏多少就用多大的力

有了偏离度之后，核心设计来了。

这是弹簧函数最关键的部分：不同的偏离程度，对应不同强度的响应。不是一视同仁地说"再试试"，而是根据偏离的严重程度，施加不同等级的约束力。

偏离度低的时候：温和反馈。把测试失败的具体信息传给 AI，告诉它哪些测试过了哪些没过，让它自行修正。这是弹簧被轻轻压了一下，轻轻弹回来。

偏离度中等的时候：强制暂停加反思。不让 AI 继续写代码。要求它先输出一份书面分析：你认为问题出在哪里？之前的尝试为什么没用？接下来你打算换什么策略？

这一步非常关键。它的作用不是"让 AI 想想"那么简单。它的作用是强制产生信息增益。

什么意思？循环跑偏的一个核心特征是每一轮的信息增益接近零，AI 不断重复类似的操作但没有从失败中学到新东西。强制暂停反思，就是打断这个惯性，逼 AI 把当前局面的分析写出来，这个分析本身就是新的信息，可以注入下一轮作为额外的上下文，改变 AI 的行为模式。

偏离度高的时候：回退加方向封锁。不只是暂停了，而是用 Git 把代码回退到最近一次偏离度低于阈值的状态。把最近几轮尝试过的方向摘要写入一个"禁止清单"，要求 AI 读取这个清单，然后用完全不同的策略重新开始。

连续多次触发高偏离度：彻底刹车。停止循环，输出完整的失败报告，交给人类来处理。这是弹簧的弹性极限，到了这个点就不再尝试自动恢复了。

用伪代码写出来大概是这个结构：

五、方向封锁：比弹簧更狠的一招

分级响应里有一个机制值得单独拿出来讲，就是方向封锁。

物理世界的弹簧只能把你弹回来。但 AI 循环的约束系统可以做一件弹簧做不到的事：把已经证明走不通的方向堵死。

什么意思？

普通的约束是"这个方向不对，回来再试"。AI 回来之后，还是有可能再次走上同一条路。因为它没有"记住上次走这条路失败了"的机制。下一轮重新看到同样的问题，同样的选项，它可能做出一模一样的选择。

方向封锁是"这个方向不对，而且以后不许再往这个方向走"。

举个具体的例子。AI 尝试通过修改数据库 schema 来解决一个问题，第一次失败了，第二次还是失败，第三次换了一种改法还是失败。方向封锁不是说"第四次你用另一种改法试试"，而是说"数据库 schema 这个方向已经关闭了，你必须从应用层找方案"。

技术上怎么实现？每次触发高偏离度回退的时候，系统把这几轮的尝试摘要写入一个 blocked_directions.md 文件，大致内容是"尝试过通过修改 users 表的外键约束来解决 login 超时问题，连续三次失败，该方向已封锁"。下一轮启动时，这个文件作为上下文的一部分注入 AI 的提示词里，AI 被要求先读取这个文件再开始工作。

方向封锁的本质是什么？是持续缩小搜索空间。

循环的本质是搜索，搜索的效率取决于搜索空间有多大。每封锁一个已经证明无效的方向，搜索空间就缩小一圈。AI 被迫去探索之前没试过的路径，而不是在同一条死路上反复折返。

这跟试错守恒定律也是自洽的，方向封锁避免在已知无效的区域重复支付试错成本。同样的 token 预算，如果不封锁方向，可能有一半花在重复探索已经走过的死路上。封锁之后，每一轮试错都被导向未知的、有可能成功的区域。

六、一个更大胆的猜想：弹簧组

前面讲的弹簧函数是单维度的：整体偏离度高了就响应。但如果更进一步呢？

想象一下：不是一根弹簧，而是一组弹簧，分别守在不同的维度上。

一根弹簧守代码范围。改动涉及的文件数超出预期范围了，这根弹簧就开始施加回复力："你的改动范围在扩大，请收缩到跟任务直接相关的文件。"

一根弹簧守架构方向。代码的复杂度指标（函数长度、嵌套深度、依赖数量）在恶化，这根弹簧就推回来："你的改动在让系统变得更复杂，请寻找更简洁的方案。"

一根弹簧守时间和成本。Token 消耗量或轮次超过了预算的某个比例，这根弹簧开始收紧："你已经用掉了 60% 的预算但只完成了 20% 的任务，请调整策略或者缩减范围。"

每根弹簧独立工作，各自有自己的阈值和响应方式。但它们共同构成一个多维的约束力场，从不同角度把 AI 往目标方向拉。

这个想法还很粗糙，但背后的直觉是：单一维度的约束很容易被绕过。AI 可能在测试维度上一直进步（越来越多的测试通过），但在代码质量维度上一直恶化（为了通过测试写出越来越脏的代码）。只有多维度同时约束，才能防止 AI 在某个维度上"作弊"。

七、诚实地聊聊边界

讲了这么多，必须诚实地说：这套方案有几个很实在的局限。

第一个，偏离度函数本身需要人来设计。你得提前想清楚"什么指标能反映偏离程度"，这些指标的权重该怎么分配。对于测试驱动的任务，这比较好设计，因为测试本身就是一把精确的尺子。但对于开放性任务，比如"让这个页面更好看"，你怎么量化"好看的偏离度"？这又回到了老问题：约束的质量取决于你对问题的理解深度。

第二个，判断准确性在循环中会被累乘放大。偏离度检测如果有 10% 的误差，单独一轮无所谓。但跑十轮之后，误差会累积。可能该刹车的时候没刹住（偏离度被低估了），也可能不该刹车的时候误刹了（偏离度被高估了）。这对阈值的设定提出了很高的要求，设太松拦不住跑偏，设太紧又会频繁误杀正常的探索。

第三个，弹簧函数解决的是"偏了怎么拉回来"，不解决"目标本身定义不清"的问题。弹簧需要一个平衡点才能工作。如果你自己都不知道要什么，弹簧函数无处生根。它是一个好的约束机制，但不是一个好的目标发现机制。

第四个，阈值怎么定？阈值1和阈值2的具体数值，不同项目、不同任务类型肯定不一样。一个保守的项目需要更紧的阈值，一个探索性的项目需要更松的。这些参数本身可能也需要通过实验去调，这又是一轮试错。

八、即便不完美，也比现在强一个量级

有这么多局限，还值得搞吗？

我觉得值得。原因很简单：跟现有方案比一下就知道了。

现在的约束模式是这样的：AI 跑偏了你不知道，等你发现的时候钱已经晚了。发现了也只能说"再试试"，因为没有偏离程度的感知。"再试试"不管用就继续"再试试"，直到 token 烧完或者人忍不了了手动中断。

弹簧函数的约束模式是这样的：实时感知偏离程度。偏得少就温和引导，偏得多就强制暂停反思，严重偏离就回退代码并封锁死路。有兜底机制，连续触发上限就停下来交给人。

它把约束从一个开关变成了一个连续的力场。开关只有两个状态：过了，没过。力场有无数个状态：偏了多少，该用多大的力，从哪个方向拉。

这个从离散到连续的转变，可能就是让 AI 循环从"碰运气"变成"可工程化"的关键一步。

最后说一点。弹簧函数的有效性上限取决于你对问题的理解深度。你越理解一个问题，偏离度函数就写得越精确，阈值就设得越合理，弹簧就越有效。

工具在进化，但决定工具上限的，永远是使用工具的人对问题的理解有多深。