夜雨聆风学习资料网

ARTICLE · 1233374

AI 助手总在关键时刻掉链子?

AI 助手总在关键时刻掉链子?

AI 助手总在关键时刻掉链子?

你有没有遇到过这种事:AI 助手前面几步做得挺好,到第五步突然犯傻,前面全白费。你返工一遍,它又换个地方错。

大多数人觉得是模型不够聪明,只能等下一代。但我觉得漏了一种可能——它不是笨,是一个人在干四个人的活。

规划、推理、调工具、检查自己有没有做错,这四件事本来是不同的活儿。现在全塞进同一个环节里,每一步都得留点余量,一格一格攒下来,到第五步就崩了。它不是在能力的边界上失败,是在角色的边界上失败。

Meta 的工程团队写过一篇很反直觉的实践:他们让 agent 更可靠的办法,是把编排层做薄。编排层只干两件事:分发任务、检查结果靠不靠谱。真正的推理,交给专门的 agent 去做。

原文里有句话挺狠:有时候,把 agent 需要的所有知识都交给它,是错的。更可靠,往往来自“少做一点”。

如果“少做一点”真的更可靠,为什么整个行业还在比“能做多少事”?是因为用户只看得到能力,看不到稳定性?还是因为加法更容易讲成故事?

下次它又在第五步犯傻的时候,我会先问一句:这件事,它需要一个人干完吗?

原文AI 助手总在关键时刻掉链子?
北京,31分钟前,

相关学习资料