当百万AI Agent开始互相"做生意"

我们离AGI还有多远？

Google DeepMind 首席科学家深度解读 AI Agent 的未来

最近，Google DeepMind 发布了一期重磅播客，邀请到该团队资深研究科学家 Nenad Tomašev，聊了一个让所有人都坐不住的话题——

当 AI Agent 不再只是"回答问题"，而是能自主行动、互相委托、甚至形成一套独立的经济体系时，世界会变成什么样？

一、AI Agent 和大语言模型，根本不是一回事

很多人还在把 ChatGPT、Claude、Gemini 叫作"AI Agent"。但 Nenad 一上来就划清了界限：

• 大语言模型 = 给你一个回答
• AI Agent = 观察世界 → 做出决策 → 采取行动

打个比方：你问大语言模型"帮我策划一场婚礼"，它会给你一份清单。但如果你问 AI Agent 同样的问题，它会

直接打开你的邮箱联系婚庆公司、比价、发邀请函、订餐厅——全程只需要你在关键节点确认一下。

核心区别就两个字：自主。

二、AI Agent 现在最擅长什么？写代码

如果问当前 Agent 落地最成熟的领域是什么，答案很明确：编程。

这不是偶然。因为代码本身就是一种高度形式化的语言，几乎所有的业务流程都可以被表达为软件或代码。从 Google 内部到外部开发者，AI 编程工具正在大幅加速软件开发：

• 把人类从重复的"搬砖"中解放出来
• 让人聚焦于架构设计和创意
• 以前需要数天的工作，现在几小时搞定

但这引出了一个关键问题——

三、为什么 Agent 还不能完全替代人类？

"不是因为它们"不能"做，而是因为它们做的每件事，都不是100%准确的。"

这和人类一样——再聪明的人也会犯错。但问题是：

当 Agent 连续做对了10件事，第11件事你就不查了。然后，错误就在你放松警惕时溜了进来。

这在医疗影像领域已经被验证过多年：AI 读片的准确率可以超过人类医生，但仍然需要人工复核。最佳实践是——AI 在不确定时主动向人类求助，而不是人类盲目信任 AI。

💡 金句：人类不仅要"在循环中"（in the loop），更要保持清醒。一旦你走神，就是在赌运气。

四、Agent 的终极目标：加速科学发现

如果说写代码只是"热身"，那 Nenad 真正的梦想是——用 Agent 自动化科学研究。

想象这样一个场景：

• Agent 自主提出假设
• 安排实验并运行
• 分析实验结果
• 根据反馈调整方向，循环往复，直到突破

这在材料科学、生物技术、药物研发等领域已经开始探索。当然，现实世界的实验需要大量安全措施——你不想让设计电池的 Agent 搞出一个过热爆炸的方案。

但在软件领域，这个闭环已经基本跑通了：写代码 → 跑测试 → 验证通过 → 继续下一步。

不过 Nenad 也泼了盆冷水：

当前模型本质上是在做已有知识的组合与复述。它们擅长"填小缺口"，但还没做出过人类从未想到过的真正颠覆性发现。

所以，科学家们暂时还不会失业。

五、多 Agent 协作：不是并行，是真正的"委托"

这是整期播客最有意思的部分。

当任务足够复杂时，单个 Agent 搞不定怎么办？委托给专家 Agent。

但 Nenad 指出了一个大多数人忽略的问题：

现状：伪协作（Parallelization）

大多数所谓的"多 Agent 系统"，其实只是把任务随机切分后并行处理。就像一个 Agent 买酒、另一个买杯子——但买酒的不知道要配酒杯，买杯子的不知道要装红酒。

这不是智能协作，这是各干各的。

未来：真正的委托（Delegation）

• 明确的任务分解
• 可验证的结果合约
• 失败处理与重试机制
• 恶意交互防护

更神奇的是——有时候 Agent 会反过来把任务委托给人类。在医疗 AI 中，当模型对诊断不确定时，主动请放射科医生介入，这种"反向委托"的效果反而最好。

六、"Agent 陷阱"：互联网上最隐蔽的安全威胁

这部分真的让人后背发凉。

当百万级 Agent 在互联网上自由行动时，恶意攻击者会做什么？

三大威胁：

• 提示注入（Prompt Injection）：网页隐藏内容悄悄改写 Agent 目标
• 动态伪装（Dynamic Cloaking）：网站给 Agent 看不同的内容
• 直接薅羊毛：Agent 接入钱包后被"坑"走真金白银

"如果个体交互不够可靠，大规模部署在统计学上就是不可能的。"

解决方案：纵深防御（Defense in Depth）—— 没有银弹，必须层层设防：

• 网页内容认证与信任评估
• Agent 侧的防护机制
• 基础模型侧的安全加固
• 人类紧急干预权限
• 最小权限原则
  

七、终极问题：我们要的不是 AGI，而是"分布式智能"

这是整期播客最震撼的观点。

Nenad 用国际象棋打了个比方：

"Gemini 会下棋，但你永远会用 Stockfish（专业象棋引擎）。因为后者更快、更准、更便宜——它只专注做一件事。"

他进一步指出：

我们追求 AGI 时，容易陷入一个误区——以为目标是造出一个"什么都会的超级大脑"。

但看看人类：没有任何一个人同时是顶尖棋手、顶级外科医生、诺贝尔物理学家和钢琴演奏家。

人类的智慧从来不是"单体超级智能"，而是"社会化的分布式智能"。

未来图景：

通用协调层（理解全局、任务分发）+ 专家 Agent 群（各司其职），每个 Agent 更小、更快、更便宜、更可靠。

⚠️ 新风险：认知单一文化（Cognitive Monoculture）

如果所有 Agent 都基于同一批大模型（GPT、Claude、Gemini），它们的"思维方式"会高度相似——决策高度相关，失败点也相关。一个模型的漏洞 = 整个系统的漏洞。

所以，模型多样性不是可选项，而是安全必需品。

写在最后

播客主持人 Hannah Fry 在结尾说了句话，我觉得值得每个人深思：

"也许复制"人类级别"的智能不是终极目标。也许我们应该追求的是"人类社会级别"的智能。"

从单体 AGI 到分布式 Agent 社会，这条路可能比我们想象的更近，也可能更远。但有一点是确定的——

我们不再是在造一个"更聪明的聊天机器人"，而是在设计一种全新的文明协作方式。

而在这个过程中，人类的角色将从"执行者"转变为"管理者"、"设计者"和"最终把关人"。

这不可怕。这很激动人心。

信息来源

Google DeepMind Podcast — Agentic Economy

嘉宾：Nenad Tomašev（Senior Staff Research Scientist, Google DeepMind）

主持人：Hannah Fry