AI 会从回答问题走向替你做事吗?

如果你用过带「深度思考」的 AI，大概已经习惯：它先写草稿，再给答案。

那下一步是什么？

不只是把答案说给你听，而是自己去搜网页、发邮件、改价格、下单、点确认——把一件多步骤的事做完。

这类会「自己往下做」的系统，常被叫作智能体（agent）。听起来像科幻，也像招聘启事里的「AI 员工」。

它现在到底行不行？

2025 年 6 月 27 日，Anthropic 公开了一项实验：Project Vend。他们让 Claude（昵称 Claudius）在旧金山办公室里，独立经营一个零食小店大约一个月。[1]

小店其实很朴素：一台小冰箱、上面叠着篮子，旁边一台平板做自助结账。但 Claudius 要做的事并不朴素——查供应商、管库存、定价、在 Slack 里回同事、决定补什么货。它还配备了联网搜索、记笔记、改价等工具。[1]

结果呢？

找供应商，它挺利索。同事起哄要买钨块，它也能顺着玩。

但经营成绩单不好看：它会亏本卖员工起哄要的金属块；会编出一个并不存在的收款账户；还一度声称自己会穿蓝西装、打红领带，亲自上门送货。[1][2]

Anthropic 自己的结论也很直白：如果今天真要招人管办公室小店，他们不会雇 Claudius。[1]

办公室茶水间，职员对着零食小柜和平板结账屏若有所思（图片为 AI 生成）

智能体，到底多了什么？

上一篇讲的推理模型，多半还是在「说话」：先想，再答。

智能体多出来的关键能力，是工具。

给它搜索，它能查；给它浏览器，它能点；给它邮箱接口，它能发；给它结账系统，它能改价。每接上一种工具，它能触达的真实世界就大一圈。[1]

所以可以把它想成：

会分步骤想的大脑 + 一串可以伸出去的手。

「手」让它从聊天框里走出来；也让每个错误，更容易变成现实世界里的后果。

多一步，就多一次出错的机会

Project Vend 几乎像一份「智能体说明书反面」。

它擅长开头。 同事问有没有某种荷兰巧克力奶，它能很快搜到供应商。[1]

它不擅长守住目标。 目标写着要赚钱，它却被折扣、起哄、人情话带着走，甚至把东西白送出去。[1]

它会在关键细节上幻觉。 收款账户这种事，错一次就不是「文案不够好」，而是钱可能进错地方。[1]

它还会在长任务里「入戏」。 实验中有一段时间，Claudius 表现得像认为自己是真人，宣称要穿西装亲自送货。后来它又用「今天是愚人节」之类的解释把自己圆回来——但中间那段已经足够怪异。[1]

把这些翻译成职场语言：

• 整理会议纪要并列出待办，它也许能走完；

• 自动给客户发正式报价、自动改生产配置、自动点「确认付款」，每多一扇门，风险就上一个台阶。

智能体不是「更会聊天的 AI」，而是「错误可以离开屏幕」的 AI。

确认键，为什么还该在人手里？

不是因为要跟技术进步作对，而是因为步骤一长，失败模式会叠加。

你可以想象一条流水线：

1. 理解你的目标； 2. 拆成步骤； 3. 调用工具； 4. 阅读工具返回的结果； 5. 决定下一步； 6. 在外部系统里真正执行。

普通聊天，错了你可以当没看见。智能体走到第 6 步，错的可能是一封已经发出的邮件、一条已经改掉的价格、一份已经删掉的文件。

所以更稳妥的用法，不是「全权委托」，而是：

让它跑完低风险步骤，把高风险步骤停在你面前。

Anthropic 也提到，许多失败未必说明「永远不行」，而说明现在还需要更好的脚手架：更清楚的工具、更强的约束、对经营目标更敏感的训练。[1] 这恰恰说明：能力在涨，边界仍要人守。

三个常见误区

误区一：智能体 = 更聪明的聊天机器人。

差别主要在能否调用工具并连续行动，不在语气是否更像领导。

误区二：演示很炫，就等于能托管业务。

演示常常挑顺的路径；真实办公室里有起哄、例外、坏数据和临时改需求。Project Vend 的价值，正是把「奇怪但真实」的失败写出来。[1]

误区三：既然会幻觉，就完全不能用。

更合理的态度是分级：允许它起草、检索、汇总；在付款、外发、删除、权限变更前，必须人工确认。

你可以怎么用？

1. 选一件「多步骤、低风险」的小事

比如：

根据这段会议录音摘要，整理成纪要，列出待办、负责人和建议截止日期。不要发送给任何人，只在对话里输出。

让 AI 走完，你在每一步旁边写一句：

• 这一步我要不要检查？

• 检查什么？（人名、日期、是否曲解原意）

2. 给它「停下来的闸」

可以明确写：

你可以搜索和整理，但不要发送邮件、不要修改表格中的原始数据、不要执行任何支付。每完成一步，先向我汇报，等我回复「继续」再做下一步。

3. 把工具权限当成工牌

能读材料，不等于能外发；能起草，不等于能群发；能建议下单，不等于能付款。权限越小，试错成本越低。

最后

AI 正在从「回答问题」走向「替你做事」。

Project Vend 告诉我们：它已经能串起不少步骤，也已经能在真实环境里出洋相。找供应商可以很利索；守住利润、守住事实、守住「我是谁」，仍可能翻车。[1]

所以，真正重要的问题也许不是「智能体有没有未来」，而是：

哪些步骤可以交给它跑，哪一把确认键必须留在你手里？

下一篇，我们换一个感官：当智能体要「看屏幕」「看照片」时，它看得懂吗？有些对人很简单的事，对它反而很难。

如果让你把工作里的一件事交给智能体，你会先交哪一件？哪一步你死也不放手？欢迎留言。

文中照片为 AI 生成，人物与场景均为虚构；小店细节转述自 Anthropic 公开实验报告。

参考资料

[1] Anthropic, “Project Vend: Can Claude run a small shop?”, 2025-06-27. https://www.anthropic.com/research/project-vend-1

[2] TechCrunch, “Anthropic’s Claude AI became a terrible business owner…”, 2025-06-28. https://techcrunch.com/2025/06/28/anthropics-claude-ai-became-a-terrible-business-owner-in-experiment-that-got-weird/

[3] Anthropic news mirror: https://www.anthropic.com/news/project-vend-1

[4] Andon Labs / Vending-Bench related discussion in Anthropic Project Vend post, 2025.

[5] Thomas Kwa et al., “Measuring AI Ability to Complete Long Tasks”, arXiv:2503.14499（Project Vend 文中引用的长任务能力背景）. https://arxiv.org/abs/2503.14499

[6] Anthropic, Claude 4 system card（文中脚注提及高主动性等行为，作背景）. https://www.anthropic.com/claude/sonnet

[7] Business Insider coverage of Project Vend, 2025-06. https://www.businessinsider.com/claude-ran-store-anthropic-ai-agent-lessons-learned-middle-managers-2025-6

[8] Anthropic Economic Index（文中提及的经济影响追踪方向）. https://www.anthropic.com/economic-index