当智能体打开聊天软件：原始聊天记录检索如何战胜精心构建的结构化记忆

《When Your Agent Opens the Chat App: Agent-Controlled Search over Raw Chat Logs Rivals Structured Memory》：放弃LLM驱动的离线索引构建，让智能体在原始聊天记录上自主迭代搜索，在2800道对话记忆问题上以58.2的平均准确率超越最强图结构记忆系统HippoRAG 2（53.2），证明结构化记忆的很大一部分收益，可以经由对原始记录的受控检索获得。

记忆，成了智能体系统的天花板

大语言模型智能体在工具调用、代码生成、科学推理等任务上表现日益强大。但当它们需要跨越长时间、多轮次的交互持续工作时，一个根本性瓶颈开始浮现：记忆。上下文窗口再长也有边界，系统必须在保留什么、压缩什么、检索什么、丢弃什么之间做出选择。

过去几年，主流应对方式高度一致：在问题到来之前，把原始交互历史转换成某种结构化的记忆表示。自写备忘录、递归摘要、向量存储、树形索引、知识图谱，各种架构层出不穷。它们的共同假设是——历史信息必须被预先加工，才能在将来被有效利用。

"先结构化、后检索"的隐性代价

预先构建结构确实带来了可观的检索质量提升，但代价常常被低估。

第一重代价是信息损耗。任何结构化过程都是一种有损压缩，它决定哪些细节值得抽象、哪些应该丢弃，而所有这些决定都发生在问题被提出之前。当用户恰恰需要那些被舍弃的细节时，系统往往难以找回。递归摘要丢失中间层信息，知识图谱丢失原始措辞，向量存储丢失精确匹配——这些损失是结构本身的固有属性。

第二重代价是工程成本。图谱和树形索引需要离线构建，新消息到达时需要增量维护甚至整体重建。摘要、嵌入、图构建的每一步都在消耗模型调用和计算资源。

这引出一个看似简单却长期未被认真检验的问题：这些结构化记忆系统的收益，究竟有多少来自结构本身，又有多少仅仅来自"拥有一个称职的检索机制"？论文选择走向另一个极端——完全不构建任何语义结构，看看能把这条路推多远。

新思路：让智能体自己"翻聊天记录"

ReFind的灵感来自一个容易被忽视的领域：个人信息再查找（personal-information refinding）的经验研究。自然情境观察表明，人们找回已知目标信息时，很少一次性给出完整精确的查询词，而是通过一系列小步的、依赖上下文线索的探索逐步逼近目标。即时通讯研究同样发现，用户会在关键词尝试、滚动浏览和时间/上下文线索之间灵活切换。

这些发现指向一个替代方案：保留原始记录，把智能从"预先构建的语义索引"转移到"对搜索过程的适应性控制"上。智能体像人一样打开聊天软件，在未修改的原始记录中逐轮搜索、检查结果、调整策略，收集到足够证据后再回答问题。这正是论文标题的寓意所在。

系统架构分为两个解耦的阶段。第一阶段是检索：一个ReAct风格的智能体循环自主决定搜索关键词和参数，多轮搜索原始聊天记录，将有价值的片段保存为笔记。第二阶段是推理：笔记按会话分组、按时间排序，连同问题一起交给答案生成模型。这个分离设计让检索过程不被答案生成挤占上下文空间——搜索循环可以自由探索整个档案，答案模型只看到一份紧凑的、保留原始措辞的证据视图。

四个聊天原生的检索控制

ReFind的底层引擎并不花哨：按轮次（turn）粒度建立的BM25倒排索引，零模型调用、零摘要过程，档案写入即可搜索，新消息到达即可增量追加。真正的关键在于四个针对聊天记录特性的检索控制，每个都对应人类再查找行为中的一个经验维度。

会话感知的排名融合。聊天记录天然具有两级结构：最小单位是"轮次"（一次用户发言和对应助手回复），轮次组成"会话"（完整的对话片段，带唯一ID和时间戳）。BM25在轮次级别做精确匹配，却忽略了会话级别的主题聚类信号。ReFind用倒数排名融合（RRF）把两个粒度的排名结合起来：轮次级BM25排名与会话级聚合排名。当同一会话内多个轮次都命中查询时，该会话中得分较低的轮次也会获得排名提升——因为它们很可能包含有价值的上下文。

局部上下文扩展。命中的轮次单独拎出来往往信息不足。系统默认返回命中轮次及其前后各两轮相邻发言，形成一个上下文块，并在会话边界处截断。这模拟了人在聊天软件中上下翻看上下文的行为。

时间范围收窄。聊天记录天然带时间戳，而时间是人类定位记忆时最常用的线索之一。智能体可以在搜索时指定日期范围，排除无关时段的历史。

已检视会话过滤。多轮搜索容易在同一个高相关会话里反复打转。系统维护一个已检视会话集合，后续搜索不再返回这些会话的结果，确保每一轮迭代都带来新的信息增益。

这四个控制共同构成一个会话感知、上下文保留、时间敏感、去冗余的检索界面。单个看都不是新理论，组合起来恰好把聊天记录的结构特征转化成了智能体可以主动利用的检索杠杆。

为什么朴素的词法检索反而成了优势

一个引人注目的设计选择是：ReFind用BM25做后端，刻意不用稠密向量、不用语义嵌入。两个原因支撑了这个选择。

首先是可解释性。词法匹配让智能体直接观察到哪些词项成功了、哪些失败了，这比一个相似度分数强得多的反馈信号。当第一个查询颗粒无收时，智能体可以从已检索结果中提取新的显著实体来改写查询；当时间线索浮现时，它可以立刻用时间过滤收窄范围。这种"看得见的反馈"是迭代式查询改写的燃料。

其次是零构建成本。稀疏索引不需要任何模型调用即可构建和增量更新。这契合论文的核心主张：不要在提问之前做昂贵的、有损的预处理，把算力花在问题到来之后的定向计算上。

实验结果：六个基准上的全面领先

论文在MemoryAgentBench的六个对话记忆基准上进行系统评测，涵盖单跳问答、多跳问答、事件排序和事实整合，共约2800道题，全部在增量多轮交互设定下评估。所有系统的骨干模型统一为GPT-4o-mini。ReFind以58.2的平均准确率登顶，超过最强的图结构记忆系统HippoRAG 2（53.2）和单轮BM25-RAG（48.8），并在六个基准中的五个上取得最优：

其中EventQA上ReFind（74.1）与BM25-RAG（74.6）基本持平，说明强词法命中已能解决许多单事件问题。更大的增益出现在单次查询最难以奏效的任务上：相比单轮BM25-RAG，ReFind在SH-QA上提高17个百分点，在MH-QA上提高13个百分点。这说明迭代式的查询改写确实在帮助系统拼合分散的证据。

在把控制器升级为GPT-5-mini后的LongMemEval-S/M子集上，ReFind五次运行分别达到93.2±3.3和89.3±6.0，全面超过STITCH（86.0/80.0），也超过同样允许智能体搜索原始记录但缺少完整聊天原生界面的GAM（70.0/60.0）。与HippoRAG 2的差距从GPT-4o-mini设定下的0.6个百分点扩大到13.2和22.6个百分点。结论在两种控制器、两套评估设定下都成立。

消融实验：把增益逐项拆开

几组受控对比分别验证了不同设计要素的贡献：

• • 去掉全部四个聊天原生控制（退化为通用智能体BM25）：S和M分别下降14.5和7.1个百分点，直接说明会话感知、上下文扩展、时间过滤和会话去重的整体价值。
• • 关闭上下文扩展：S下降9.2个百分点，是S上贡献最明显的组件。
• • 关闭会话去重：M下降9.3个百分点，在长历史上作用突出。
• • 关闭RRF会话融合：S/M分别下降3.9/4.9个百分点。
• • 只保留一轮搜索：完整循环在S和M上分别多出8.5和20.4个百分点。M的档案更长，智能体能从第一轮结果中提取线索、保存证据、排除已检视会话，多轮迭代的收益自然更大。

值得注意的还有后端对比：在智能体、提示词、预算和评估完全对齐的条件下，BM25词法后端在两个子集上都取得最高均值，优于稠密检索（text-embedding-3-large）和混合检索。这从另一个角度印证了词法匹配的可解释反馈在智能体迭代检索中的独特优势。

真正的新意在哪里

从组件层面看，ReFind没有提出任何新的检索理论：BM25、RRF、ReAct循环都是成熟技术。真正的新意在于系统级组合，以及问题视角的转换。

这条路线把"记忆"问题从"如何更好地预先压缩和结构化历史"重构为"如何在提问时更聪明地探索原始记录"。结构不再是一个预先浇筑的静态容器，而是由检索行为在问题驱动下实时展开的动态过程。这个视角转换的价值在于：它把计算成本从离线、无差别、有损的预处理，转移到了在线、定向、可审计的检索上——每一次检索调用都对应当前问题，没有冗余开销。

论文的核心主张可以用一句话概括：对于精确的、需要证据支撑的聊天记录问题，那些被归功于精巧记忆结构的收益，很大一部分可以通过让智能体对未修改的原始记录进行可控搜索来获得，而且完全不需要LLM参与索引构建。

对记忆系统研究与实践的启示

这项工作的第一个启示是：结构不是免费的，需要为它的真实收益提供证据。既然不构建任何结构、只做受控检索就能达到这样的水平，那么图谱、树、摘要系统在宣称自身优势时，应当与一个"检索能力强但零结构"的强基线对照。否则被归功于结构的收益，可能只是称职检索的功劳。

第二个启示是检索的可解释性比通常认为的更重要。词法匹配的每一次成功与失败都看得见、摸得着，这种透明度让智能体能够像人一样在探索中调整策略。记忆系统的设计应该把"反馈信号的质量"纳入考量，而非只看离线检索指标。

第三个启示与可审计性有关。保留原始记录意味着答案可以逐字对照原始轮次进行核查，系统不存在索引过期或重建的问题。在合规和可追溯性要求日益严格的应用场景中，这是一个容易被低估的优势。

局限与适用边界

论文自己划清了ReFind的适用边界。它针对的是精确检索和事实更新追踪这类"证据型"问题；对于需要语义概括、主题聚类或低延迟响应的场景，结构化记忆和语义索引仍然具有互补价值。另一种可能的解释是，这些基准上的问题大多依赖精确实体和事实，恰好处于词法匹配的舒适区；面对更抽象、更依赖语义概括的问题，情况可能有所不同。

实验层面也有一些需要注意的细节。LongMemEval-M只有15道题，一道答案的变化就会带来约6.7个百分点的准确率波动，因此M上的组件排序需要谨慎解读。多数基线数字来自原论文而非本地复现，各系统间的控制器和工具调用预算并未完全对齐。外部API不暴露可复现的采样种子，重复运行的波动反映的是执行层面的变异性而非问题采样的不确定性。

总结

ReFind的实验结果传递了一个强信号：在对话记忆这个任务族上，让智能体对原始记录进行受控搜索，可以打败先把历史加工成记忆表示的复杂系统，而且整个过程没有任何LLM参与的索引构建。这项工作提醒我们：在堆叠更复杂的记忆架构之前，先回答一个更基本的问题——我们需要的究竟是更好的结构，还是更好的检索。当你的智能体学会自己"打开聊天软件"时，那些沉重的记忆脚手架，也许并没有想象中那么不可或缺。