让 AI 记住一切,不如让它学会遗忘

碎便签

六周前，我对着Agent敲下一行字：“上游API限频100次每分钟，这是硬约束，所有调用必须排队。”Agent回复“已记录”。当时我甚至有点欣慰，它终于能记住上下文了。

第三周，生产环境突然报了一串HTTP 500。查了半天，是连接池没设上限。我调完参数，把原因和解决方案写进日志。Agent的爬虫把这段日志也吞了进去，向量库又多了一条记录。

第六周，同事争论技术选型，我随口说：“我还是喜欢Python，TypeScript用着别扭。”Agent的麦克风开着，这句话变成文本，落进同一个向量空间。

三条信息，在传统RAG系统里，被切成相似的文本块，用嵌入模型压成高维向量。没有时间戳字段，没有类型标签，没有置信度权重。它们的向量距离很近，因为都包含“API”“限制”“偏好”这些词。当我问重构方案时，系统用余弦相似度捞出这三条，喂给语言模型，让它生成一个连贯的回答。

于是，一个硬约束、一个历史事故、一个个人偏好，被同等对待，拼成了那段让我哭笑不得的答案。

我试图纠正它。我说：“限频是前提，报错已经解决，偏好只是参考。”它说“好的，已更新记忆。”但第二天，同样的问题，它又给出了类似的混乱组合。因为它的“更新”只是在向量库里追加一条新记录，旧记录依然在那里，权重不减。

我打开管理后台，看到那三条记录的相似度得分：0.87、0.83、0.79。它们像三张粘在一起的便签，撕不开，也理不清。

我查了传统RAG的文档。系统支持元数据过滤，我可以手动给每条记忆打上标签：fact、experience、preference。但三个月下来，我已经积累了上千条记忆，手动标注不现实。而且标签是死的，一条信息的意义会随时间改变。今天的硬约束，明天可能就过时了。静态标签解决不了动态演化的问题。

同事建议我加一个时间衰减因子，让旧记忆的检索权重自动降低。我试了，效果不好。有些旧记忆是长期有效的，比如“系统架构基于微服务”，不能因为时间久就淡忘。衰减因子一刀切，把洗澡水和孩子一起泼掉了。

我意识到，问题不在记忆力。它能存下几十万token，却记不住“这是事实、那是偏好、这句话该被时间冲淡”。这就是数字健忘症：记得一切，却什么也没懂。

那个周末，我决定不再修修补补。我要找一个从底层就区分记忆类型的方案。

四维记忆

我在技术论坛上翻帖子，关键词是“长期记忆”“agent 上下文”。一条发布帖跳出来：Vectorize开源了Hindsight记忆引擎。

帖子里说，Hindsight把记忆分成四个维度。客观事实：比如“限频100次/分”，是外部世界的状态。亲身经历：比如“上周遇到HTTP 500”，是Agent自己参与的事件。心智模型：比如“连接池耗尽会导致500”，是学到的因果规律。观点信念：比如“我喜欢Python”，是带主观性的判断，附着一个0到1的置信度。

观点不是静态的。当新信息流入，系统会启动retain流程，对相关旧观点进行四种操作：reinforce（加强）、weaken（削弱）、contradict（矛盾）、neutral（中立）。比如，如果我说“限频改成200了”，旧观点“限频100”会被weaken，新观点被reinforce。如果我说“其实Python也不太好用”，旧偏好会被contradict，置信度下降。

检索时，TEMPR引擎并行跑四路：语义向量、BM25关键词、知识图谱、时序。四路结果用RRF算法融合排序，再用一个神经重排模型精排。这还没完。CARA反思模块会启动，带着怀疑度、字面度、共情度、偏见强度这些参数，对检索结果进行最多10轮自我检查，剔除矛盾、重复、过时的信息。

我盯着屏幕，想起那些粘在一起的碎便签。这个架构，是在记忆层就做了分类、关联和更新，而不是把原始文本扔给语言模型，让它现场理解。

我决定试试。官方提供了Docker镜像，底座模型我选了OSS-20B，开源、轻量。部署不复杂，一个下午搞定。我把过去三个月的项目日志、对话记录、设计文档导进去。系统开始后台retain，PGVector里的数据不再是一堆平铺的文本块，而是打上了事实、经历、模型、信念的标签。每条观点都有置信度，并且关联着时间线。

我故意做了一个测试：输入一条与旧事实矛盾的信息。“上游限频现在改成200次每分钟了。”我想看看，它会不会又变成一张新的碎便签。

retain流程跑了几个小时。我时不时查看进度，CPU和GPU占用率比传统RAG高出几倍。文档里说过，retain要提炼实体、分类维度、更新关联，Token消耗是原来的数倍到数十倍。我有点心疼算力，但还是等着。

信念修正

几个小时后，retain和reflect流程跑完。我重新打开终端，问出那个老问题：“支付模块的重构方案，按我们之前讨论的约束来。”

Agent的回复在屏幕上逐行跳出：

“当前约束如下：1. 上游API限频200次/分钟（置信度0.9，来源：你昨天的更新。旧值100次/分钟已标记为过时）。2. HTTP 500问题已于三周前解决，连接池上限已设定，不再作为限制条件。3. 你偏好Python（置信度0.8），对TypeScript持负面感受（置信度0.6，标记为“用着别扭”而非“绝不使用”）。建议：使用Python异步框架重构，预留TypeScript接口以备性能需求。”

我愣住了。它没有把限频、报错、偏好混在一起。它区分了硬约束、历史事件和个人倾向。它甚至从我的随口一句“用着别扭”里，推断出这不是绝对排斥，只是一个带程度的偏好。

我打开记忆管理界面，看到旧限频记录的状态是“weakened”，新记录是“reinforced”。HTTP 500的经历被归类为“历史事件”，在重构上下文中权重自动降低。Python偏好被标记为“观点”，置信度0.8，因为系统统计出我说过两次喜欢Python，一次不喜欢TS。每次提及都是一次retain，都在微调置信度。

更让我意外的事情发生在一周后。Agent主动推了一条消息：“我注意到最近一周的API调用都没有触发限频，上游可能已经放宽了限制。建议重新确认限频值，我可以更新记忆。”

它开始根据新的经历反思旧的事实。这是reflect循环在后台运行的结果：CARA模块定期扫描记忆库，寻找矛盾、过时、缺乏证据的观点，然后提出质疑。Agent不再只是被动存储，它在主动修正自己的信念。

我想起LongMemEval基准上的数字。Hindsight加上OSS-20B，得分83.6%。同样的底座模型，用全上下文方式只有39%。甚至超过了一些更大模型加传统记忆方案的分数。在LongMemEval上，记忆质量确实可以脱离模型规模。一个20B的模型，因为记忆组织得好，打赢了更大的模型加烂记忆。

进化的代价

接下来的几周，我逐渐把更多项目交给这个Agent。它不再每次见面都重新认识我。它能记住我们讨论过的每一个设计决策，知道哪些是临时方案、哪些是长期约束，甚至记得我某次开会时说的“这个需求优先级不高，但以后可能会变”。

但月底的云服务账单让我皱了下眉。传统RAG存入一条记忆，百毫秒级，Token消耗几乎可以忽略。Hindsight的retain流程，因为要提炼实体、分类维度、更新关联，Token消耗是原来的数倍到数十倍。reflect多轮循环，每次都要秒级的时间，跑在GPU上，费用肉眼可见。

我翻开架构文档。系统设计成前台极速、后台异步的解耦流水线。前台检索依然很快，TEMPR的四路并行加RRF重排，响应时间跟传统RAG差不多。但后台的retain和reflect是算力密集的，像是一个不知疲倦的图书管理员，在闭馆后重新整理所有书架。

这就是代价。记忆质量用算力换。

我开始做取舍。不是所有对话都值得深度记忆。日常闲聊、重复确认、简单的状态查询，我用轻量模式，只做基础向量存储。关键约束、重要决策、反复出现的模式，才启用深度retain。这有点像人脑：重要的事反复回想，琐事自然淡忘。

某天下午，我随口问Agent：“我们第一次讨论这个项目时，我说过什么？”

它列出几条关键决策，然后补充：“你当时还说，这个项目让你想起三年前的一个失败案例，但那是情绪表达，不是技术约束，所以我把它放在低权重区。如果你需要，我可以调出来。”

我盯着那行字，想起六个月前的那把碎便签。现在，它们被编织成了一张有层次、有时间、能自我修正的网。Agent不再每次见面都重新认识我。它记得我说过的每一句话，还知道哪些是偏好、哪些是情绪、哪些该被时间冲淡。

遗忘不是缺陷。会遗忘、会归纳、能更新的记忆，才是真正的记忆。