AI圈卷RAG卷到飞起,这团队偏要把向量库删了

大家好，我是小扬。今天为大家分享的是来自拉瓦尔大学（Université Laval）团队的最新工作：MOSS，一个用一年真实使用数据挑战 RAG 默认地位的 agent 记忆架构。

想象你有一个 AI 助手，陪你整整一年，每天工作、聊天、写论文、处理邮件。一年后，它记得你六个月前担心过哪个项目，记得你当时是兴奋还是焦虑，记得你第一次提出某个想法是在哪段对话里。RAG 做不到这件事——但作者用它做到了，并且开源了代码。

这篇论文解决的核心问题是：当 AI 要陪一个人或一个组织走过几年时间，记忆应该长什么样？作者给出的答案和当下主流完全相反——不用向量相似度，不用 embedding，而是让 agent 自己去查关系数据库。

旧做法哪里不够

业界给 AI 装记忆的默认答案是 RAG：把文档切块、嵌进向量、查询时按余弦相似度捞回来。论文直接指出，RAG 本质上是个检索流水线，不是记忆系统。它有三个绕不开的结构性缺陷：

• 不透明：余弦相似度在高维空间里怎么算的，没人能人工验证；
• 不可设计：真实部署的研究表明，RAG 只能在运行中迭代修补，无法在设计阶段验证；
• 理论上限：单向量检索有形式化极限，语料越大，相关文档越容易被"淹没"。

更麻烦的是——向量索引被生成它的 embedding 模型绑死了，换个模型就得全部重算。

新方法新在哪

MOSS 的核心立论只有一句话：数据库是地图，文档是疆域。原始语料（对话、文档）原封不动保存在普通文件里，永远人类可读；上面架一层关系数据库，里面是密集的元数据地图——segment 摘要、时间戳、参与者、情感状态、概念标注、关系图。

双层架构

MOSS 只有两个组件：Orchestrator（编排器）和 Memory Structure（记忆结构）。

Orchestrator 装着所有活跃代码——REST API、MCP 端点、LLM provider 连接器、QueryProfiler、SQL 检索层。它是 agent 与记忆之间的唯一连接点。

Memory Structure 就是关系数据库本身，跑在任何关系引擎上（当前是 SQLite，也能是 PostgreSQL 或分布式 SQL）。

系统在三个轴上做到无关：模型无关（GPT-4o/Gemini/Claude 可互换，甚至非 LLM 的确定性进程也能当客户端）、存储无关（云、对象存储、本地都行）、API 无关且双向（MOSS 可以调模型，也可以被挂载进现有 agent 环境）。

查询生命周期

一次查询走四步：

1. 意图分析（agent 干）：判断问题是时间型（"我们什么时候第一次…"）、主题型、情感型（"我最担心的是什么时候"）、人物型还是文档型；
2. Profiling（agent 干）：agent 发自然语言给 QueryProfiler，带上结构化权重——时间戳给历史问题，valence/activation 给情感问题，concepts 给主题问题。QueryProfiler 把它翻译成 SQL；
3. 执行（确定性）：SQL 检索层跑查询。这一步没有 LLM 参与。同样的查询、同样的数据库状态，结果完全一致、可复现、可逐行解释；
4. 评估迭代（agent 干）：agent 看结果，不满意就重新表述（最多 15 次迭代），最后给答案并引用它找到的 segment。

关键点在分工：formulation 是 agent 的，execution 是符号的。LLM 的非确定性被关在循环边缘，每次决策都留下可检查的痕迹。

归纳式本体

MOSS 不强加外部受控词表。它的 569 个概念有三种来源：少量手工种子、自动抽取层（占大多数）、命名实体（组织/机构/工具）。这套方法论借鉴了定性研究的 codebook thematic analysis——代码从数据中涌现（inductive），再系统化应用（codebook）。

11 个元数据图、约 500 万条类型化关系把 segment 互相连起来——co-occurrence、temporal adjacency、affective resonance、thematic cohesion、geographic anchoring（开发中）。

论文特别强调：GraphRAG 把文档蒸馏成抽取三元组，地图替代了疆域；MOSS 的图连接的是已索引的 segment 本身，永远指回完整的原始语料。

实时索引与归档

agent 的活动上下文是个约 35K token 的滑动窗口——新对话进来，最老的就被挤出去。常规设置里，挤出去的就丢了。MOSS 让一个 scribe agent 截住所有要离开窗口的内容，做两件事：实时索引进数据库（segmentation、summary、affective、concept），同时归档到当天对话文件。

结果：任何滚出窗口的内容几秒内就变成可检索的数据库行。窗口不再限制 agent 能回忆什么——更老的对话只是一次查询的距离。论文把这叫做"结构性无界记忆"：不是更大的窗口，而是窗口内容永远不消失。

一年生产数据

论文最有分量的证据不是 benchmark，是一年真实使用：

• 110,183 个会话 segment：从约 4400 万 token 中切出，覆盖 2024 年 10 月至今、约 600 个文件、三个助手平台（ChatGPT、Claude、Gemini）；
• 163,494 个编目文件：其中约 21,000 个文本文档做了完整 enrichment（摘要、关键词、结构大纲、概念标注）；
• 569 个归纳概念，322,662 个 segment 级概念注释；
• 11 个元数据图，约 500 万条类型化关系；
• 4 代基础设施、3 个 LLM 厂商、2 个云服务商、本地工作站、专用服务器——架构承诺始终不变。

三个运营观察

1. 地图通常够用：日常问题大多直接从数据库少量行就能答了，不用打开任何源文件。token 经济性是结构性优势——MOSS 找 2-3 个对的 segment，而不是塞 50 个 chunk 进上下文；
2. 情感索引证明价值：valence × activation（基于 Russell 的 circumplex 情感模型）编码每个 segment 的情感状态——这个"不像工程系统该有的"选择，成了实际使用最多的检索维度之一。"我什么时候最担心过这个项目？"这类问题，RAG 答不了；
3. 可审计改变用户关系：每次检索都能在实时日志里看到，每个答案都能追到查询和 segment。失败的诊断变得可能——错答案指向错查询或索引缺口，都能修。一年的日常信任建立在"出错时可检查"，而不是"不出错"上。

小扬总结

这篇论文对普通读者的意义不在于又造了一个新 RAG——它直接戳破了"RAG 就是 AI 记忆"这个默认认知。

OpenAI 的 Dreaming 在 2026 年 6 月上线了后台合成记忆，方便但用户既不能检查、不能控制、也无法带走。MOSS 走的是另一条路：因为记忆结构是标准 SQL、语料是纯文本，整个系统可以无变换地迁移——跨云、进入国家云区域、落到笔记本上。

记忆这件事，可能从一开始就不该交给 embedding。

论文标题: Memory-Orchestrated Semantic System (MOSS): An Auditable Agentic Memory Architecture论文链接: https://arxiv.org/abs/2607.04391GitHub: https://github.com/GibsonAI/memori