芮勇AIAgent九问大模型局限到未来

最近在清华智能产业研究院的一场学术分享上，行业研究者围绕 AI Agent 提出了九个重要问题。这九个问题从大模型的结构性局限出发，一直延伸到 AGI 是否需要全新架构的根本性追问，构成了一条从实践到趋势、再到前沿思辨的完整路径。

理解为什么 AI Agent 会成为新的方向，必须先认识大模型本身的局限。

首先是理解能力不足。现有最强的大模型在读取简单的模拟时钟时，准确率只有 39%；读日期，准确率只有 23%。这种人类能轻松获取的基础能力上的短板，暴露出模型在理解层面上的结构性局限。

其次是幻觉问题。大模型会自信地说错。人类对于自己的不确定性是有意识的，而大模型则看似笃定地给出错误答案。最后是缺乏真正的认知能力，例如物理直觉、因果推理、结构化认知等。模型会「照猫画虎」地套用过去的模式，却未真正理解背后机制。

这些问题说明：光靠一个大模型，不足以支撑真正的智能体。需要给它一系列外挂，包括自我认知、记忆系统、任务分解、计划能力、与环境互动的感知和工具与知识库的调度能力。Agent 的出现，正是为了解决这些「大模型做不到的问题」。

三个可落地的设计启发

第一问：控制论能否启发 AI Agent 的设计？

控制论中的经典框架包括前置控制器、后置反馈系和被控对象。这套结构与当前 LLM Agent 架构之间存在高度相似性。前馈控制器对应 Prompt 优化，让大模型输出更准确、更稳定、更可控。例如在数学推理和具身智能的任务中，未加入前馈控制器的情况下，输出质量往往不稳定；加入一个可学习的小模型作为控制器，将任务自动分解成多个可执行步骤，正确率会显著提升。

反馈机制同样关键，且出现明显趋势：由人类反馈向 AI 反馈转变。例如用 GPT-4 生成程序代码，再用另一个 GPT-4 模型进行代码审查，错误检查效率能提升 60%。「模型纠模型」的自循环反馈正在取代大量人工注释。

第二问：认知心理学能否启发 AI Agent 设计？

基于 Transformer 架构的大模型在本质上缺乏真正意义上的记忆系统。这与人类认知方式存在根本差异。在多轮对话与长链任务中，AI 系统依赖不断增长的上下文序列进行推理，导致上下文窗口迅速膨胀，推理能力显著下降。人类会自动对大量冗余内容进行压缩，把过去的对话或任务归纳成简洁的要点。

将人类这种摘要式记忆机制应用于 Agent 的短期记忆，可以显著降低计算负担。长期记忆则让 Agent 持续积累经验，使记忆不断迭代优化。Reasoning Bank 这类方法模拟了人类长期记忆与工作记忆的相互作用：先根据当前任务从长期记忆中提取最相关的内容，填充到工作记忆；接着针对任务执行情况进行结构化总结；这些结构化结果再被更新到长期记忆，从而实现类似人类「学习—固化—提取」的循环。

第三问：计算机网络能否启发 AI Agent 的设计？

无论互联网、工具库、应用程序还是知识库，大模型本身都无法直接调用，必须借助外挂式的工具接口。但这些工具应当如何构建？AI Agent 如今面临与 1990 年代互联网相同的瓶颈：缺乏统一协议来访问外部服务。MCP、轻量级的 Skills、NLWeb 等正在构建类似「Agent 时代的 HTTP」的基础通信层，使传统服务重新对大模型可访问。

三个需要持续观察的趋势问题

第四问：语言生成是否能达到人类水平的推理能力？

人类大脑的新皮层中负责语言的区域与负责推理的区域是分离的。但现代大模型仅通过预测下一 token 的语言建模方式训练，却意外表现出一定程度的推理与思考能力。仅依靠语言生成的训练范式，是否可能通向类人级推理？这一路径在生物学意义上显得不合常理。

第五问：LLM 和人类是否以同样方式压缩信息？

如果智能本质上就是信息压缩，那么大模型的压缩方式是否与人类大脑的压缩方式一致？Yann LeCun 的研究指出三点：外部分类高度相似，大模型在压缩后形成的语义聚类与人类定义的概念类别有超过 90% 的一致性；内部表征显著不同；大模型压缩效率更强但未必认知更优。如果大模型的压缩与人类截然不同，我们是否仍然走在通向真正智能的正确道路上？

第六问：统计学习是否实现真正的理解？

人类只需要极少的样本就能形成概念，而深度学习往往需要百万级示例。大模型依赖统计学习的范式，真的能达到真正的理解吗？这一点目前仍然没有答案。

三个尚无定论的开放探索

第七问：LLM 的 Scaling Law 能走多远？

一类观点认为继续优化结构、寻找更合适的拓扑是性能提升的关键；另一类观点认为在数据与算力足够大时，反而是更少结构、更自由的超大模型能在规模极致后超越复杂结构。未来智能的突破究竟来自结构工程，还是来自无结构模型在极端规模下的自我涌现？

第八问：预训练对于快速演化是否必要？

以图灵奖得主 Richard Sutton 为代表的「无预训练派」认为人类是完全依靠 on-the-fly 学习，大模型依赖大规模预训练是根本错误的方向。以 Andrej Karpathy 为代表的另一派则认为人类其实拥有经过数百万年进化而积累的「DNA 预训练」，AI 没有这段漫长的演化，因此预训练反而是必要的快速演化捷径。两种看法都各有依据，预训练在没有演化时间的情况下可能是必须的，但远远不够，持续学习仍然是不可替代的关键环节。

第九问：AGI 是否需要新的架构？

当下的大模型范式究竟只是需要若干关键突破与局部增强的「可修补体系」，还是必须在根本上被彻底重建？与 Hassabis 认为「或许只差一两次突破」即可抵达 AGI 的乐观态度形成对比，这个问题直指 AI 研究的根基：我们是在完善一座已成型的大厦，还是在面对一个需要重新设计的结构？

我的评价

九个问题的结构非常清晰：前三个给出可落地的方法论，中间三个带来需要持续观察的趋势，最后三个是尚无定论的开放探索。这种「实践—趋势—前沿思辨」的分层本身就很有价值，因为它让 Agent 从业者知道哪些问题今天可以动手解决，哪些问题需要长期跟踪，哪些问题可能需要几代研究者共同回答。

更深一层的信号是跨学科理论的引入。控制论、认知心理学、计算机网络协议这三个看似无关的领域，正在以不同方式塑造 Agent 的工程化路径。这印证了一个判断：AI Agent 不是一个单纯的模型问题，而是一个系统工程问题。下一阶段的 Agent 突破，大概率来自跨学科方法的融合，而不是单一模型架构的升级。

反面观点也要提出：「前馈 + 反馈」闭环在工程上稳定有效，但 RLAIF 的可解释性、记忆压缩的语义保真度、Agent HTTP 协议的标准化，这些「工程层」问题一旦处理不当，会反过来拖累 Agent 在真实场景的表现。MCP 看似美好，但要建立真正的跨厂商互通，还需要相当长的生态建设周期。

另一个值得关注的判断：当九问中的前三问被工程化解决之后，整个行业可能会进入一个相对平稳的「方法论红利期」。届时大家比拼的不再是 Agent 框架本身，而是数据、流程、用户认知等更靠近场景的资产。这对未来 2-3 年的 Agent 创业方向会有深远影响。