ARTICLE · 1233374
AI 助手总在关键时刻掉链子?
AI 助手总在关键时刻掉链子?
AI 助手总在关键时刻掉链子?
你有没有遇到过这种事:AI 助手前面几步做得挺好,到第五步突然犯傻,前面全白费。你返工一遍,它又换个地方错。
大多数人觉得是模型不够聪明,只能等下一代。但我觉得漏了一种可能——它不是笨,是一个人在干四个人的活。
规划、推理、调工具、检查自己有没有做错,这四件事本来是不同的活儿。现在全塞进同一个环节里,每一步都得留点余量,一格一格攒下来,到第五步就崩了。它不是在能力的边界上失败,是在角色的边界上失败。
Meta 的工程团队写过一篇很反直觉的实践:他们让 agent 更可靠的办法,是把编排层做薄。编排层只干两件事:分发任务、检查结果靠不靠谱。真正的推理,交给专门的 agent 去做。
原文里有句话挺狠:有时候,把 agent 需要的所有知识都交给它,是错的。更可靠,往往来自“少做一点”。
如果“少做一点”真的更可靠,为什么整个行业还在比“能做多少事”?是因为用户只看得到能力,看不到稳定性?还是因为加法更容易讲成故事?
下次它又在第五步犯傻的时候,我会先问一句:这件事,它需要一个人干完吗?
原文AI 助手总在关键时刻掉链子?
北京,31分钟前,















































































