【AI Agent 工作法】为什么 AI 以前只会聊天,现在开始会干活了?

AI 为什么会编造信息？为什么长文档会漏重点？为什么同一个问题问两遍答案不一样？搞懂从 LLM 到 Agent 的进化逻辑，你就知道什么时候该用 ChatGPT，什么时候才需要 Agent。

【AI Agent 工作法】为什么 AI 以前只会聊天，现在开始会干活了？

你有没有遇到过这种情况——

AI 刚刚还能帮你写出一份像样的方案，下一秒却开始一本正经地胡说八道。同一个问题问两遍，答案不一样。文档一长，它就开始漏重点。你让它"帮我做完这件事"，它却只会给你一堆建议。

这不是你不会用 AI，也不是 AI 忽然变笨了。

问题在于：你面对的可能还只是一个"会说话的模型"，而不是一个"会干活的 Agent"。

这两者的差距，比你想的大得多。搞懂这条进化线，你就知道为什么 AI 有时候很聪明有时候又像在胡说，以及——什么时候该满足于聊天，什么时候该升级到能帮你干活的系统。

为什么 AI 会一本正经地胡说？

先说最让人头疼的事：AI 编信息。

你问它"张三在哪年出生的"，它可能编出一个看起来很合理的答案——1985 年，北京，某医院。连医院名字都给你编好了。

这叫幻觉。AI 没想骗你，是它的工作方式决定的。

AI 的大脑（大语言模型，LLM）本质上是一个超级文字接龙游戏。它读了互联网上几乎所有的文字，然后学会了"给定前面的文字，下一个最可能出现的字是什么"。

它根本不是在"查资料"，它就是在"猜"。

每一次回答，它都在做概率计算："基于你问的问题，接下来最可能出现的文字是什么？"有时候猜对了，有时候猜错了。猜错的时候，答案看起来很通顺、很有逻辑，但完全是编的。

这就像一个读过很多书但没上过班的实习生。你问他什么都能聊两句，但聊着聊着，他可能会把不同书里的内容混在一起，编出一个听起来合理但完全不存在的事情。

记住这个类比：AI 就像一个知识渊博但没实操经验的实习生。后面的所有概念都会回到这个类比上。

为什么同一个问题问两遍，答案不一样？

因为 AI 每次都在重新"猜"。

它不是从数据库里调出一个固定答案。你问"推荐 5 本产品经理必读书"，它每次都会从头开始计算概率，然后生成一个新的回答。

这带来一个好处和一个坏处。

好处是：你可以让它反复生成，从中挑最好的。坏处是：你没法保证它每次都说一样的话。如果你需要精确、可复现的答案（比如法务条款、财务数据），直接问 AI 是不靠谱的。

什么时候能接受不一致：头脑风暴、文案创意、方案初稿。

什么时候不能接受：合规审查、数据查询、制度解读。后面我们会讲到，后面这些场景需要用 RAG（检索增强生成）来解决，而不是直接问聊天机器人。

为什么文档一长，它就开始丢信息？

因为 AI 能"记住"的东西是有限的。

这个限制叫上下文窗口。你可以把它理解为：这个实习生的短期记忆容量。他能看到你给他最近几页的笔记，但翻太远就忘了前面说的什么。

GPT-4 的上下文窗口大约是 128K token（相当于一本小书），Claude 3.5 是 200K。听起来很多，但如果你丢给它一份 100 页的 PDF 让它总结，它可能会把后半部分的重点丢掉。

这就是为什么你让 AI 总结一份 30 页的报告，前半部分总结得很好，后半部分开始泛泛而谈。它不是偷懒，是真的"忘"了。

实际影响：如果你需要 AI 处理大量文档，要么拆成小块喂给它，要么用 RAG 系统（后面第 9 篇会讲怎么搭）。别指望它一口吃下一整个知识库。

为什么它不能直接帮我干活？

这可能是最让人困惑的一点：AI 明明很聪明，为什么只能聊天，不能动手？

因为最初的 AI 只会做一件事——生成文字。

你让它"帮我发一封邮件"，它能写出邮件内容，但没法帮你点发送。你让它"帮我查一下这个月的销售额"，它能告诉你怎么查，但没法帮你打开数据库。

它只会"说"，不会"做"。

这就像那个实习生会写报告、会分析问题，但不会用 Excel、不会发邮件、不会查数据库。知识都在脑子里，手却动不了。

直到有一天，有人教它学会了一样东西：工具调用。

会用工具的实习生：从 LLM 到 Agent 的关键跳跃

工具调用（Tool Use / Function Calling）是 AI 从"只会聊天"到"能干活"的分水岭。

原理很简单：给 AI 一份"工具清单"，告诉它"你可以调用这些工具"。当用户提出一个需求时，AI 先判断需不需要用工具，需要的话就用正确的参数调用工具，拿到结果后再组织回答。

比如用户问"今天北京天气怎么样"：

AI 判断：这个信息需要实时数据，我没法直接回答
AI 选择：调用天气查询工具
AI 传参：城市=北京，日期=今天
拿到结果：北京，晴，28°C
AI 生成回答：今天北京晴天，气温 28 度

AI 不再是"猜"一个天气了，而是真的去查了。

这就像实习生学会了用 Excel、发邮件、查数据库。他的知识没变，但他从"只能聊"变成了"能干活"。

**Agent 的关键在于：它不只是更聪明，而是真的会做事了。**Agent 能理解你的目标，把目标拆成步骤，每一步调用合适的工具，遇到问题还能调整方案。

从一个人到一个小团队：多 Agent 是怎么回事

理解了从 LLM 到 Agent 的跳跃，多 Agent 就好懂了。

一个 Agent 再能干，能力也是有限的。就像一个再厉害的实习生，一个人也干不完所有事。有些任务需要不同专业的人协作。

多 Agent = 多个角色分工协作的 AI 小团队。

比如做一个竞品分析报告：

信息收集 Agent：负责搜索竞品最新动态

数据分析 Agent：负责对比价格、功能、用户评价

审稿 Agent：负责检查事实准确性、逻辑一致性

三个 Agent 各管各的领域，信息收集的不用懂数据分析，审稿的不用自己去搜索。每个 Agent 专注做一件事，最后拼在一起。

这比一个 Agent 独自完成整个任务更可控——因为每个环节都有专门的"人"盯着。

但别急着兴奋。多 Agent 是这个进化链上最复杂、最贵、最慢的一级。90% 的工作场景根本不需要它。我们第 8 篇会专门讲什么时候该用、什么时候不该用。

一张图总结：AI 的四级进化

把上面所有内容画成一条线：

LLM（会说话）→ 能理解和生成文字，但只能聊天

LLM + 工具调用（会用工具）→ 能查天气、发邮件、查数据库，但每次只能做一步

Agent（会规划）→ 能理解目标、拆步骤、调用工具、遇到问题调整方案，像一个能独立跑项目的实习生

多 Agent（会协作）→ 多个角色分工协作，互相检查，像一个小团队

这就是 AI 从"只会聊天"到"会干活"的完整进化路线。

回到你最开始的困惑：

AI 会编信息？→ 因为它在"猜"，不是在"查"。概率生成决定了它可能补全错误内容。
长文档会漏？→ 上下文窗口有限，它真的"记不住"那么多。
答案每次不同？→ 每次都在重新计算概率。
不能帮你干活？→ 纯 LLM 只会生成文字。加上工具调用，它才能"动手"。
Agent 和聊天机器人的区别？→ Agent 能规划、能调工具、能纠错。聊天机器人只能一问一答。
多 Agent 是什么？→ 多个角色分工协作的 AI 小团队。很强大，但大多数场景用不到。

搞懂了这条线，你就知道为什么同一个 AI，有时候像天才有时候像傻子——因为你面对的可能还是那条进化链上最基础的形态。

今天就能做的事

下次用 ChatGPT/Claude 时，留意它的回答：哪些是"记住"的，哪些是"猜"的。你会发现猜的比例比你想象的高。

试一个长文档任务：把一份 20 页以上的报告丢给 AI 总结，看它在第几页开始"丢信息"。

记住这条进化线：LLM → 工具调用 → Agent → 多 Agent。后面每篇文章都会回到它。第 2 篇我们来讲那些你听过但搞不清的热词——RAG、Workflow、MCP、A2A，它们分别在这条线的哪个位置。

本文是「AI Agent 工作法」系列第 1 篇。系列核心金句：能用 Prompt 解决的，不上 RAG；能用 RAG 解决的，不上 Agent；能用单 Agent 解决的，不上多 Agent。