夜雨聆风从 LLM 的本质，到 AGENTS.md、CLAUDE.md、SOUL.md 与上下文管理
你可能遇到过这种情况：
昨天你刚刚纠正过 AI，告诉它你的偏好、项目规则、写作风格，甚至让它读了一大堆资料。今天你新开一个窗口，它又像第一次见你一样，犯了同样的错，问了同样的问题。
这时候很多人会困惑：我不是已经“训练”过它了吗？我不是已经“投喂”过资料了吗？为什么它还是忘了？
这里的关键误解在于：大多数时候，你并没有改变模型本身。你只是让某一次会话临时拥有了更多上下文。
LLM 不是一个会持续学习你的私人助手。它更像一个巨大的概率机器、知识压缩装置和解空间。它每次回答问题，主要依赖当前上下文窗口里能看到的信息。所谓 AI 工具的“记忆”，很多时候也不是模型真的记住了你，而是工具在下一次调用模型时，把必要信息重新带回上下文窗口。
这篇文章想回答一个问题：
为什么说 AI 工具的“记忆”不是模型真的记住了你，而是工具在下一次调用模型时，把必要信息重新带回上下文窗口？
一、LLM 的本质：不是记住，而是生成
要理解 AI 工具的“记忆”，需要先理解 LLM 到底在做什么。
现代 LLM 的基础架构是 Transformer。Transformer 的核心能力，是处理一串 token 之间的关系。
token 可以粗略理解为模型处理文本的基本单位。它不一定等于一个完整汉字或英文单词，也可能是一段词片、一个标点，或者代码里的一个符号。用户看到的是一句话，模型看到的是一串 token。
当你输入一句话时，模型并不是像人一样“读懂整篇文章后，从脑子里拿出答案”。更准确地说，它会把 token 转成向量，在上下文中计算它们之间的关系，然后预测下一个 token 最可能是什么。
注意力机制：模型如何决定该看哪里
Transformer 里最重要的机制叫 attention，也就是注意力机制。
一个简单的理解是：当模型生成下一个 token 时，它需要判断当前上下文中哪些信息更重要。
比如你问：
请按照我们项目的命名规则，帮我创建一个新的笔记文件。
模型需要重点关注“项目”“命名规则”“新的笔记文件”这些信息，而不是平均看待所有文字。注意力机制就是在做这件事：根据当前生成位置，给上下文里的不同 token 分配不同权重。
Q/K/V：注意力到底在算什么
如果稍微深入一点，注意力机制常用 Query、Key、Value 来理解，也就是 Q/K/V。
Query：当前位置提出的问题，类似“我现在需要找什么信息？” Key：上下文中每个位置提供的索引，类似“我这里有什么信息可以被匹配？” Value：真正会被取走和汇总的信息内容，类似“如果你关注我，你能从我这里拿到什么？”
模型会让 Query 和各个 Key 做匹配，判断当前生成位置应该关注哪些 token，然后把对应的 Value 加权汇总，形成下一步生成所需的信息。
所以，注意力不是人类意义上的“回忆”。它更像是在当前材料里做一次快速的信息匹配和加权汇总：哪些内容和当前生成位置更相关，就让它们发挥更大影响。
下一个 token：概率分布与采样
经过多层注意力计算后，模型会得到一个概率分布：在当前上下文后面，哪些 token 更可能出现。
比如在“春眠不觉”后面，“晓”的概率会很高；在“HTTP 404 means”后面，“not found”的概率会很高；在“这个函数应该返回”后面，模型会根据代码上下文判断可能的返回值。
但模型通常不是永远选择概率最高的 token。它还会受到 temperature、top-p 等采样策略影响。简单说，这些策略会决定输出更保守，还是更发散；更像标准答案，还是更有变化。
所以，LLM 最直接的本质是：
根据当前上下文，计算下一个 token 的概率分布，再通过某种采样策略选出下一个 token。
从这个角度看，LLM 有点像“成语接龙”：你给出前文，它接出后文。
但这个比喻只是简化理解。LLM 不是按字面规则机械接词，也不是只会补全固定短语。它是在高维语义空间里，根据上下文、语法、知识、风格和任务目标，计算概率上合理的延续。
三个理解框架
为了建立直觉，可以从三个角度理解 LLM。
第一，它是概率机器。它不是从固定数据库里复制答案，而是在当前上下文中不断预测下一个 token。
第二，它是知识压缩装置。训练过程把大量文本、代码、问答、推理模式和世界知识压缩进模型参数。prompt 像一次解压缩指令，让模型从参数空间里释放出某一类知识和表达路径。
第三，它是解空间。训练数据和模型结构共同塑造了一个巨大的可能解空间。使用 AI，就是根据自己的问题、背景和约束，到这个空间里寻找可用的解。
这三个框架不是彼此矛盾的说法，而是从不同角度看同一个系统：生成时，它是概率机器；训练后，它像知识压缩装置；使用时，它呈现为一个可被 prompt 定位的解空间。
它很强，但它不是在永久理解你的一生，也不是在一次纠正之后就改变了自己。它是在当前上下文中，进行下一步概率生成。
二、LLM 为什么强，又为什么会“忘”
LLM 的优势和局限，其实来自同一套机制：它把大量公共知识压缩进参数里，又在每一次任务中依赖当前上下文进行生成。
它强，是因为训练阶段见过足够多的文本、代码、问答、推理过程和表达模式。很多人需要长期阅读、模仿、训练才能掌握的东西，已经以参数的形式沉淀在模型里。
它也强在关联能力。一个问题可能同时涉及技术解释、受众定位、文章结构、代码实现、商业语境和表达风格。LLM 可以把这些原本分散的模式临时组合起来，给出一个可用答案。
当模型规模足够大、训练数据足够丰富、任务分布足够复杂时，还会出现一些复杂系统的涌现能力，比如代码生成、翻译、归纳、类比、规划、解释和多步推理。
但这些能力并不意味着它天然可靠。恰恰相反，很多问题也来自同一套机制。
首先，LLM 仍然是在预测下一个 token。它的输出可以非常流畅，却不保证真实。只要某个答案在语言模式上足够像正确答案，它就可能被生成出来。这就是幻觉的来源之一：模型生成的是“概率上合理的延续”，不一定是“现实中真实的事实”。
其次，私有知识不会自动进入模型训练。你的个人经历、企业内部流程、项目隐含规则、团队历史决策，如果没有出现在当前上下文里，也没有通过检索、文件读取、工具调用等方式提供给模型，就不在它当前可用的信息范围内。
这时模型并不会自然停下来承认“我不知道”。它可能会用公共知识和语言模式补全空白，于是表现为一本正经地胡说八道。
再次，普通会话中的 LLM 没有真正意义上的持续记忆。你在一个窗口里纠正过它，不代表模型参数被改变；你在一次对话里投喂过资料，也不代表新开一个窗口后它就知道。除非工具层把这些资料保存下来，并在后续会话中重新带入，否则模型还是从当前 prompt 开始。
所以，一个关键区别是：
投喂资料，不等于训练模型；纠正回答，不等于改变模型；保存上下文，也不等于模型真的记住了你。
这句话很重要，因为它区分了三层东西：模型参数、会话上下文、工具记忆。
模型参数是训练阶段形成的，普通用户不会因为一次对话就改变它。
会话上下文是当前窗口里能被模型看到的信息，窗口结束或被压缩后，它就不一定还在。
工具记忆则是产品或 Agent 框架在模型外部保存的信息，比如用户偏好、项目规则、历史摘要、文件索引。它们只有在被重新读入上下文时，才会真正影响模型本次回答。
这就引出了 AI 工具需要解决的问题：既然 LLM 本身没有稳定的持续记忆，那工具如何制造一种“它好像记得我、记得项目、记得规则”的体验？
答案通常不在模型内部，而在模型外部。
三、AI 工具如何制造“记忆感”
理解了“模型参数、会话上下文、工具记忆”的区别之后，再看 Codex、Claude Code、OpenCode、OpenClaw、Hermes 这些工具或 Agent 框架，就会清楚很多。
它们都在做一件事：围绕 LLM 搭建外部记忆装置。
这些装置的名字不同，层级不同，具体文件也不同，但本质很接近：把某些稳定信息保存成文件、配置、摘要、索引或记忆记录，然后在合适的时候重新放进模型上下文。
AGENTS.md、CLAUDE.md：项目级规则
在 Coding Agent 里，最常见的是项目级说明文件，比如 AGENTS.md、CLAUDE.md、.github/copilot-instructions.md 等。
这类文件通常回答的是：这个项目怎么工作，Agent 进入项目后应该遵守什么规则。
它们常保存：
项目结构和关键目录。 构建、运行、测试命令。 代码风格和命名规则。 安全边界和禁止操作。 什么时候可以自动修改，什么时候必须询问用户。
这些文件的作用不是微调模型，也不是把知识写入模型参数，而是作为工具层的上下文装置。
典型机制大致是：
用户在项目根目录或子目录写入说明文件。 AI 工具启动、进入项目或执行任务时，自动读取这些说明。 工具把说明内容拼接进 system prompt、developer prompt 或 user prompt 附近。 LLM 在本轮请求中把这些说明当作上下文和行为约束。 模型生成回复、工具调用、代码修改或执行计划。
所以，AGENTS.md 的本质不是“模型记忆”，而是“自动注入的上下文”。
它像一份给 Agent 的项目门牌和操作手册。每次 Agent 进入项目，工具都会提醒它：你在什么项目里，要遵守什么规则，哪些命令可以用，哪些地方不能乱动。
SOUL.md、USER.md、MEMORY.md：更细的记忆分层
如果说 AGENTS.md 和 CLAUDE.md 更偏项目规则，那么一些 Agent 框架会继续把“记忆”拆得更细。
以 OpenClaw、Hermes 这类设计为例，常见分层可能包括：
SOUL.md：定义 Agent 的人格、价值、表达风格和行为边界。 USER.md：记录用户信息、偏好、工作方式和长期需求。 AGENTS.md：记录任务规则、操作协议、项目约束和工具使用方式。 TOOLS.md：记录可用工具、能力边界、账号或渠道信息。 MEMORY.md：保存跨会话积累的长期记忆、决策和事实。
这套分层的直觉很简单：不要把所有信息都塞进一个巨大文件，而是区分信息的类型。
关于 Agent 自己“应该成为什么样”，放在 SOUL.md；关于用户是谁、偏好是什么，放在 USER.md；关于项目和任务怎么做，放在 AGENTS.md；关于工具怎么用，放在 TOOLS.md；关于长期事实和历史决策，放在 MEMORY.md。
文件名不同，分工不同，但本质上仍然是同一件事：
把原本不会天然保存在模型里的长期信息，保存到模型外部；等下一次会话或任务开始时，再把相关部分带回上下文。
这类设计有一个优点：它让“记忆”变得可见、可编辑、可审查。你可以打开文件看 Agent 到底被告知了什么，也可以修改、删除或重写其中的规则。
但它也有一个风险：这些文件会消耗上下文窗口。如果文件过长、过时、互相冲突，模型不但不会更聪明，反而可能更慢、更贵、更容易被噪音干扰。
这些记忆装置解决了什么
第一，它们减少重复说明。你不用每次都告诉 AI 项目怎么启动、测试怎么跑、文件怎么命名。
第二，它们提供私有知识入口。项目约定、团队偏好、业务语境、个人工作方式，本来不在模型公共训练知识里。通过这些文件，它们可以被带入当前任务。
第三，它们约束 Agent 行为。对于会读文件、跑命令、改代码的 Agent 来说，说明文件不仅是知识，也是操作边界。
第四，它们让记忆可以被人管理。相比“模型好像记住了什么，但你不知道它怎么记的”，文件化记忆至少可以被阅读、被版本控制、被审查、被修正。
它们解决不了什么
它们不能保证模型永远遵守规则。
它们不能让模型参数真的改变。
它们不能替代当前任务里的具体信息。
它们也不能把一个质量很差的 prompt、一个缺失关键背景的任务，自动变成高质量结果。
所以，我们需要把这些记忆装置放在正确的位置上：它们不是魔法，而是上下文管理工具。
四、论文给我们的校准：AGENTS.md 有用，但不要神化
很多人使用 AGENTS.md 的直觉是：它当然有用。把项目规则写进去，Agent 不就能少犯错了吗？
这个直觉有道理，但还不够精确。
真正需要问的是：它到底有用在哪里？又无用在哪里？
最近几篇关于 AGENTS.md 和 Agent context files 的论文，给了一个比较清晰的校准。
它正在成为一种“配置代码”
首先，AGENTS.md 已经不是少数人的小技巧，而是正在变成一种工程实践。
Mohsenimofidi 等人的 Context Engineering for AI Agents in Open-Source Software 调查了开源项目中的 AGENTS.md、CLAUDE.md、copilot-instructions.md 等上下文文件，发现这类文件已经在成熟仓库中出现，但内容结构和写法高度不统一。
Chatlatanagulchai 等人的 Agent READMEs 进一步指出，这些文件越来越像“配置代码”：它们会被频繁修改、增量维护，也可能越来越长、越来越难读。论文提出了“上下文债务”的概念：一个本来帮助 AI 理解项目的文件，可能逐渐变成人类也难以维护的复杂文档。
这说明 AGENTS.md 不是一个随手写两句的提示词，而是一种需要维护的工程工件。
有用在哪里：节省成本，提高效率，减少试错
从效率角度看，AGENTS.md 的价值是比较明确的。
Lulla 等人在 On the Impact of AGENTS.md Files on the Efficiency of AI Coding Agents 中，用真实仓库和真实 PR 做配对实验，对比有无 AGENTS.md 时 Agent 的表现。结果显示，存在 AGENTS.md 时，中位运行时间下降约 28.64%，输出 token 消耗下降约 16.58%。
这个结果支持一个直觉：好的项目说明可以减少 Agent 的无谓探索。它不需要通过一遍遍读文件、试命令、猜规则来理解项目，而是可以更快进入任务本身。
也就是说，AGENTS.md 的有用之处主要在于：
降低重复说明成本。 减少探索性导航。 减少无谓试错。 降低输出 token 消耗。 提升任务执行效率。
无用在哪里：不稳定提升准确率
但从准确率角度看，事情就没有那么简单。
Gloaguen 等人的 Evaluating AGENTS.md 在多个 Coding Agents、多个基准上评估上下文文件的效果。结果显示，上下文文件并不稳定提升任务成功率；在一些设置下，它还会降低成功率，并使推理成本增加 20% 以上。
更有意思的是，Agent 并不是没有遵守这些文件。相反，它确实更频繁地运行测试、遍历文件、使用指定工具。但这些额外动作并不必然转化为更正确的结果。
这说明：
指令被遵守，不等于任务会更成功；上下文更多，不等于答案更准确。
这点很关键。很多时候，我们会把“Agent 更努力了”误认为“Agent 更正确了”。但在实际任务中，多读文件、多跑命令、多写推理，并不必然意味着最终补丁更好。
如果 AGENTS.md 写得很差，比如过长、过时、含有冲突规则、塞入大量显而易见的信息，它就可能变成负担。模型会花更多 token 处理这些内容，Agent 会做更多看似勤奋但未必有效的动作。
所以，更准确的判断是：
AGENTS.md有用，主要有用在降低成本、提高效率、减少试错；它无用，或者说不可靠的地方，在于它并不稳定提高准确率，质量差时甚至会伤害准确率。
这和 Agentic Coding token 消耗研究也能对应起来。Agent 任务的主要成本往往来自输入上下文和多轮工具调用。更多 token 并不必然带来更高准确率，很多任务会在中等成本附近达到效果峰值，之后继续堆上下文，收益反而变小。
因此，AGENTS.md 的正确方向不是“越多越好”，而是“最小必要、清晰可靠、能够减少无谓搜索”。
它应该像一张清晰的地图，而不是一座新的迷宫。
五、实践建议：如何正确使用 AI 的记忆装置
理解了上面的机制之后，实践原则就清楚了：不要把 AI 的记忆当成模型真的记住了你，而要把它当成一套上下文管理系统。
不同任务，需要不同的记忆策略。最简单的判断方式是：这条信息以后还会不会反复用到？它是当前任务的一次性材料，还是长期稳定规则？
普通 AI 使用者：先区分“会话上下文”和“模型记忆”
如果你只是和 ChatGPT、Claude、Gemini 这类聊天工具对话，首先要分清楚三件事：
当前会话里说过的话，是会话上下文。 工具保存下来的偏好或记忆，是产品层的记忆功能。 模型参数本身，通常不会因为你一次纠正就改变。
所以，如果你新开会话发现 AI 忘了，不一定是它“坏了”。更可能是之前的信息没有被重新带入当前上下文。
对于重要任务，最好主动重新提供关键背景，或者使用工具提供的项目、文件、记忆、知识库功能，让系统能重新读取相关信息。
一次性任务：上下文放在当前会话
一次性任务不适合写进长期记忆。
比如：
帮我改这篇文章标题。 解释这一段报错。 总结这个会议记录。 把这段代码重构一下。
这些信息只对当前任务有效。你应该把目标、材料、输出格式和限制条件放在当前会话里。任务结束后，不需要沉淀到 AGENTS.md、SOUL.md 或长期记忆里。
否则，临时信息会污染后续任务。今天这篇文章的标题偏好，不应该变成所有文章的长期写作规则；这一次报错的上下文，也不应该跟着下一个完全无关的任务走。
重复任务：稳定规则写进记忆文件
如果某些规则会被反复使用，就适合写进记忆装置。
比如：
每次进入某个项目，都要先读哪个文件。 测试命令、构建命令、部署命令是什么。 文件命名规则是什么。 哪些目录不能动。 删除、迁移、权限、支付、数据库变更必须先确认。 输出文档要遵循什么格式。
这些不是一次性需求，而是长期工作方式。它们适合进入 AGENTS.md、CLAUDE.md、项目 README、目录级 instruction 文件，或其他工具支持的规则文件。
判断标准很简单：如果你已经对 AI 重复说过三次，而且每次都希望它照做，那它很可能值得进入某种外部记忆。
长时任务：分层管理上下文
长时任务不能只靠一个巨大的记忆文件。
比如写一本书、做一个长期产品方案、维护一个个人知识库、连续几天重构一个项目。这类任务会积累大量背景、决策、尝试、失败、偏好和中间状态。
如果全部塞进聊天记录，容易爆上下文窗口。
如果全部塞进 AGENTS.md，又会污染所有后续任务。
更好的做法是分层：
稳定规则：放进 AGENTS.md、CLAUDE.md或类似规则文件。用户偏好：放进 USER.md或产品记忆。Agent 人格和边界：放进 SOUL.md或系统级设定。项目状态：放进任务计划、progress note、review note。 长期事实：放进 MEMORY.md、知识库、索引或检索系统。当前目标：留在当前会话里。
这样做的核心不是让 AI 记住一切，而是避免把不同寿命、不同粒度、不同用途的信息混在一起。
稳定规则应该稳定保存，临时目标应该临时出现，阶段性进展应该阶段性总结，过时信息应该被更新或删除。
写 AGENTS.md：短、准、可执行、可审查
如果你要写 AGENTS.md，可以遵循四个标准。
第一，短。不要把它写成项目百科。只写 Agent 不知道就容易犯错的信息。
第二，准。不要写过时命令，不要写模糊偏好，不要让规则互相冲突。
第三，可执行。少写“请认真”“要高质量”这种空话，多写具体行为，比如“修改权限逻辑前必须先说明风险并等待确认”。
第四，可审查。把它当作配置代码管理。项目命令变了，测试流程变了，安全边界变了，记忆文件也要更新。
这四个标准背后的共同原则是：AGENTS.md 不是项目百科，而是给 Agent 的行动指北。
适合放进去的内容包括：
项目特定命令。 非显而易见的结构规则。 命名和风格规则。 安全、隐私、性能、兼容性等非功能红线。 什么时候可以自动执行，什么时候必须先询问。
不适合放进去的内容包括：
大段背景知识。 显而易见的目录说明。 一次性任务需求。 过时规则。 自动生成后未经人工筛选的长篇上下文。
一个好的 AGENTS.md，不是让 AI 读得更多，而是让 AI 少走弯路。
结尾：AI 的记忆，本质上是上下文被重新组织
现在我们可以回到开头的问题：
为什么你明明教过 AI，它下次还是忘了？
因为在大多数情况下，你改变的不是模型本身，而是某一次会话里的上下文。
如果这些信息没有被保存，没有被检索，也没有在下一次请求中重新带回上下文窗口，模型就没有理由继续知道它。
AI 工具之所以能表现出“记忆感”，不是因为 LLM 天然拥有稳定的长期记忆，而是因为工具在模型外部建立了文件、规则、摘要、索引、检索和记忆层。AGENTS.md、CLAUDE.md、SOUL.md、USER.md、MEMORY.md 这些文件，只是其中最直观的一类。
它们的共同本质是：
把模型原本看不到的长期信息保存下来，并在下一次需要时重新带回上下文窗口。
所以，所谓 AI 的记忆，本质上不是模型变了，而是上下文被重新组织了。
这也是使用 AI 工具时最重要的认知转变：我们不是在随手“投喂”一个会永久吸收一切的助手，而是在设计一个可重复调用的认知环境。
LLM 负责生成，工具负责取材，记忆装置负责把稳定约定带回现场。
这篇文章讨论的是第一层认知：AI 工具的“记忆”到底是什么。
下一篇文章，可以继续往前走一步：如果 AI 的记忆本质上是上下文管理，那么真正重要的问题就变成了：如何让 AI 在正确的时机看到正确的信息？
这就是 Context Engineering，上下文工程。
参考阅读
Seyedmoein Mohsenimofidi, Matthias Galster, Christoph Treude, Sebastian Baltes. Context Engineering for AI Agents in Open-Source Software. arXiv:2510.21413, 2025. https://arxiv.org/abs/2510.21413 Worawalan Chatlatanagulchai, Hao Li, Yutaro Kashiwa, Brittany Reid, Kundjanasith Thonglek, Pattara Leelaprute, Arnon Rungsawang, Bundit Manaskasemsak, Bram Adams, Ahmed E. Hassan, Hajimu Iida. Agent READMEs: An Empirical Study of Context Files for Agentic Coding. arXiv:2511.12884, 2025. https://arxiv.org/abs/2511.12884 Jai Lal Lulla, Seyedmoein Mohsenimofidi, Matthias Galster, Jie M. Zhang, Sebastian Baltes, Christoph Treude. On the Impact of AGENTS.md Files on the Efficiency of AI Coding Agents. ICSE 2026 JAWs, 2026. https://conf.researchr.org/details/icse-2026/jaws-2026-papers/31/On-the-Impact-of-AGENTS-md-Files-on-the-Efficiency-of-AI-Coding-Agents Thibaud Gloaguen, Niels Mündler, Mark Müller, Veselin Raychev, Martin Vechev. Evaluating AGENTS.md: Are Repository-Level Context Files Helpful for Coding Agents? arXiv:2602.11988, 2026. https://arxiv.org/abs/2602.11988 Longju Bai, Zhemin Huang, Xingyao Wang, Jiao Sun, Rada Mihalcea, Erik Brynjolfsson, Alex Pentland, Jiaxin Pei. How Do AI Agents Spend Your Money? Analyzing and Predicting Token Consumption in Agentic Coding Tasks. arXiv:2604.22750, 2026. https://arxiv.org/abs/2604.22750 OpenClaw Docs. SOUL.md Guide. https://clawdocs.org/guides/soul-md Dialog Docs. Identity Files. https://docs.dialog.tools/core-concepts/memory/identity-files
