AI 热词解析 · 科普专栏

从聊天到实用工具：AI 热词到底在说什么

• • LLM、Prompt、RAG、Agent、MCP、Skill、Harness 一次讲清

写在前面： 你有没有发现，身边聊 AI 的人张口就是 LLM、Agent、MCP……可你要是真问一句「这到底是个啥」，十个人里怕有九个说不清。其实这些词不是凭空冒出的黑话，而是 AI 从「只会聊天」进化到「真能干活」这条路上，每遇到一个麻烦、就长出的一层新能力。这篇用一条「想去上海玩」的需求主线，把它们串成一部迷你进化史，一次讲明白。

一图读法：九大热词速览

• • 大语言模型 LLM：AI 对话回复的核心，将输入文字拆解为 token，通过预测 token 拼凑回答。
• • Prompt 提示词：用户提问即提示词，Prompt Engineering 可优化提问，使回答更有用。
• • Context 上下文与 Memory 记忆：系统发消息时会带上之前对话作为上下文，但模型理解长度有限，memory 是压缩后的关键信息。
• • RAG 检索增强生成：能读取私有资料，先切分资料存知识库，提问时检索相关片段拼接问题，增强回复准确性。
• • Function Calling：让大模型能接入外部工具，模型判断调用工具时输出结构化指令。
• • MCP：统一第三方工具接口，AI 程序对接此协议就能调用多种工具。
• • Agent 智能体：在大模型基础上，将多种能力打包成可独立干活的系统。
• • Skill 技能：可将偏好规则写进 Skill，可重复使用，通过渐进式披露机制按需激活。
• • Harness 约束：给 Agent 划定边界，提供全面上下文，自动验收成果并引导修复，避免失控。

01 热词地图：这些词到底解决什么

这两年，AI 圈的热词层出不穷，LLM、Token、Prompt、RAG、MCP、Agent、Skill。光是念一遍就让人头大。这些词是怎么出现的？各自解决什么问题？今天用一个视频讲明白。

关键理解

• • 这些概念不是凭空冒出的黑话，每一个都是因为上一步遇到了具体问题，才出现的解决方案。
• • 主线是：AI 怎么从「聊聊天」变成「真的能干活」。

02 LLM：大语言模型与 Token

假设你这周末想到上海玩，你打开对话窗口，随口问一句，AI 很快给了一段答复，这背后的核心就是大语言模型 LLM。

他将你的话拆解为 token。token 不是一个字，也不完全等于一个词，只是大模型理解文字的最小单元。每个 token 对应着一个数字，叫 token ID。大模型通过计算，预测出一个 token 后面最该接哪一个，从而拼凑出完整回答。

关键理解

• • LLM：AI 能「听懂」并回复你的底层核心。
• • Token：大模型理解文字的最小单元，不是字也不是词，而是模型内部编码后的片段。
• • 回答本质上是模型在预测下一个 token，并由此「拼凑」出完整内容。

03 Prompt：提示词工程

在这个过程中，你的提问就是 prompt 提示词。不过你随口一问，AI 回答很浅显。换一种问法，预算2000，帮我按天规划行程，回答立刻好用很多。这套把话说清楚的方法论就叫 Prompt Engineering，提示词工程。

规划旅行不可能一句话说完，你限定预算2000，又补充不想去网红景点，AI 都能调整推荐方向。

关键理解

• • Prompt：你给模型的输入，也就是「提问」。
• • Prompt Engineering：把话说清楚、说具体的方法论，让回答从「泛泛而谈」变成「真正可用」。
• • 越具体的约束（预算、偏好、场景），模型越能调整到正确方向。

04 Context 上下文与 Memory 记忆

它是怎么记住的？因为每次发消息时，系统会把之前的对话一起打包发给大模型。这就是 context，也就是我们常说的上下文。

但大模型理解上下文的长度是有限的，随着对话不断积累，模型会忘记最开始的内容。一个常见的做法是让模型把之前的对话做一次压缩总结，只保留关键信息。这个被压缩过的关键信息就是 memory。模型的记忆。

到这里，模型已经越来越接近我们想象中智能的样子了。

关键理解

• • Context：每次发消息时，系统把之前的对话一起打包发给模型，让模型「记得」正在聊什么。
• • 模型理解上下文的长度有限，对话一长会遗忘早期内容。
• • Memory：对历史对话做压缩总结后留下的关键信息，是模型的「长期记忆」。

05 RAG：检索增强生成

对话继续，你接着问，看看我之前收藏的旅行攻略，规划行程。啊哦，模型宕机了，它不知道你收藏的攻略是什么。

这时候就需要 RAG 检索增强生成，它能读取你的私有资料，让回答更加真实可靠。他先把你的资料切成小片段存进知识库，当你提问时，系统检索出最相关的片段，并作为背景资料和你的问题拼接。模型阅读这段增强后的上下文，给你生成准确的回复。

我们现在接触到的 AI 客服、AI 问答助手，其实背后都是在用 RAG 技术。归根结底，他也只是让模型答得更好，但大模型还不能真正干活。

关键理解

• • RAG：Retrieval-Augmented Generation，检索增强生成。
• • 核心流程：私有资料切分 → 存入知识库 → 提问时检索相关片段 → 拼入问题 → 生成更准确、更可溯源的回答。
• • 典型应用：AI 客服、AI 问答助手。

06 Function Calling：让模型调用工具

你说帮我查询一下高铁票，AI 回复，你可以打开12306。它只会告诉你怎么做，但没法真的查询到高铁车次。

Function Calling 机制登场了，它让大模型具备能够接入外部工具的能力。整个机制是这样的，程序先告诉模型有什么第三方工具可以用，再把你的对话发过去。当模型判断需要调用工具时，需要输出一段结构化的函数调用指令。程序拿到指令去查询车次，再把结果返还给模型。这时候模型就可以回复符合行程规划的车票有。

关键理解

• • Function Calling：让大模型能输出「调用外部工具」的结构化指令。
• • 它解决了「模型只会说、不会干」的问题，让 AI 能查询车次、天气、日历等真实信息。
• • 模型本身不执行工具，而是「指挥」程序去执行，再把结果拿回来生成回复。

07 MCP：统一工具接口协议

但这里有个工程问题，每接入一个新工具，就需要单独写适配代码。不同应用之间，这些工作完全无法复用。

于是有了 MCP，它让所有第三方工具的接口统一了。AI 程序只需要对接 MCP 这一个协议，就能调用所有使用同一接口的工具。

很多人会把 function calling 和 MCP 混淆，觉得不是同一个东西吗？其实差别可大了。function calling 是让模型按照约定格式输出调用指令，而 MCP 是让所有工具都遵循同一种格式被模型接入。

关键理解

• • Function Calling 是「模型输出调用指令的能力」。
• • MCP 是「第三方工具的统一接入协议」，类似 USB-C。
• • 有了 MCP，不同工具无需各自写适配，AI 程序只需对接一次即可调用多种工具。

08 Agent：能独立干活的系统

AI 能接入不同工具了，很不错。但你还得一步步指挥它，能不能你就说一句，帮我把上海旅行安排好，剩下全交给它？可以，这就是 agent。

一个 agent 接到目标后，会自己思考该怎么做。整个过程它自己规划步骤，自己调用外部工具，自己记录每一步的结果。哎，这不都是我们刚刚讲过的能力吗？对，Agent 就是在大模型的基础上，把这些能力打包成一个能独立干活的系统。

大模型再聪明，也只会在文本框里，你问一句它答一句，而 Agent 能实实在在帮你干活。而且持续学习思考，越干越聪明。

市面上的 AI 产品本质上都是 Agent，都有思考规划的能力，只是形态不同，能自主执行的程度不同。比如最常见的对话窗口，Quan Studio 编程领域的 CLI 工具，Quan Code 通用领域的龙虾类桌面助手。因为它自主执行的能力上了一个台阶。不仅能操作你的本地电脑，定时执行任务，还能通过社交软件和你沟通，像一个真正帮你干活的助手。

关键理解

• • Agent：在大模型基础上，把「理解、规划、调用工具、记录结果」打包成能独立干活的系统。
• • 从「你问一句它答一句」进化到「你给一个目标，它自己想办法完成」。
• • 对话窗口、CLI 工具、桌面助手本质上都是 Agent，区别在自主执行程度和系统权限。

09 Skill：可复用的结构化能力

理想情况下，Agent 能完全自己安排旅行。但实际上你还是得提醒他应该怎么干，提醒他按天规划行程，找本地攻略，查高铁信息。那么，Skill 技能来帮你了。

你可以把所有的偏好和规则写进一个 Skill 里，下次 Agent 接到类似任务时，会参考这份文件，按规定办事。

有人说这不就是 Prompt？是也不全是。Prompt 是一次性的话术，像便签纸，每次用都得写。而 Skill 是可以重复使用的程序化能力，像一本书。有标题、有内容，随时可以翻翻看。它本身就是结构化的，可以将你所有的 skill 都整合在一起。通过渐进式的披露机制，会在运行过程中按需激活、读取、使用不同 skill，大大节省上下文和 token，让任务执行的成本更低。

关键理解

• • Skill：把偏好、规则、方法论写成的可复用结构化文件。
• • Prompt 是一次性便签；Skill 是可以反复翻阅、按需激活的书。
• • 通过「渐进式披露机制」按需读取，节省上下文与 token，降低执行成本。

10 Harness：给 Agent 套上缰绳

到这里，Agent 基本上已经接管了你的电脑。但能力越大，闯祸能力也越大。Agent 有时候会失控，比如你让他买车票，他买错了，甚至直接付钱。

那么 Harness 出现了，就像字面意思马具一样，套上脱缰的 Agent，约束他的失控行为。Harness 首先将最全面的上下文提供给模型，避免其失忆。同时给 Agent 划定边界，明确哪些红线坚决不能碰。最后能自动验收任务成果，第一时间给出反馈并且引导修复。它的核心就是构造一个 AI 友好工作环境，确保在可控的范围内爆发生产力。毕竟谁也不想一觉醒来 Agent 把你的电脑格式化了。

关键理解

• • Harness：给 Agent 套上的「马具」，防止能力失控。
• • 三件事：提供全面上下文防失忆、划定执行边界守红线、自动验收并引导修复。
• • 目标是在可控范围内，让 Agent 爆发生产力。

11 总结：一层一层加上的能力栈

好了，回到最初，你只是和 AI 说了一句想去上海玩，但随着问题和需求的增多，AI 一层一层的加上了各种能力。这些概念不是凭空冒出的黑话，每一个都是因为上一步遇到了具体问题，才出现的解决方案。

今天讲的是 AI 怎么从聊聊天变成真的能干活这条主线。如果你还想知道大模型内部怎么运作，千亿参数怎么训练，多模态又是什么，感兴趣的朋友请留言，后续一个个讲清楚。

关键理解

• • 从 LLM 能「听懂」，到 Context/Memory 能「记住」，再到 RAG 能「查私有资料」。
• • 从 Function Calling 能「调用工具」，到 MCP 能「统一接口」，再到 Agent 能「独立干活」。
• • 最后 Skill 提供「可复用规则」，Harness 提供「安全边界」。
• • 每一步都是为前一步遇到的真实问题给出的工程解，不是玄学黑话。