导语：如今的大语言模型（LLM）似乎无所不知，它们能写出优雅的 Python 代码，也知道法国的首都。然而，一旦涉及你个人的工作习惯、公司的内部流程，或者几周前你们讨论过的一个复杂项目，哪怕是最聪明的 AI 也会瞬间“失忆”。

为了解决这个问题，行业目前的普遍做法是疯狂堆叠上下文窗口，或者使用 RAG（检索增强生成）外挂知识库。但这真的是解决 AI 记忆问题的终极方案吗？

01 戳破 RAG 的泡沫：记忆不该只是“翻笔记”

当我们谈论让 AI 了解我们的业务时，首先想到的往往是 RAG（检索增强生成）技术，或者是写出长达几千字的 System Prompt（系统提示词）。

不可否认，这是目前最主流的做法，但 Engram 的创始人认为，这种被称为“上下文工程（Context Engineering）”的方法存在两个致命瓶颈：

1. 天价的 Token 消耗与计算成本

随着智能体（Agent）和自动化工作流的普及，个人和团队每天生成的 Token 数量将很快达到千万级别。如果每次让 AI 执行任务，都要把这些海量的历史背景、文档重新喂给模型，不仅搜索和读取的成本高昂，模型本身也会在庞杂的信息中感到“困惑”。

“想象一下，你每天回到公司，不需要重新阅读过去三年的所有会议记录就能直接开展工作，因为这些记忆已经沉淀在你的大脑中，变成了一种直觉。”Jesse Lynn 指出，“我们希望 AI 也能如此，而不是每次都在海量文档中做关键词搜索。”

2. 无法建立深度的“关联性”

RAG 本质上是基于搜索的。当你问一个具体问题时，它去数据库里找出相关的段落。但人类知识工作者的价值在于**“联想与顿悟”**。

如果你只是依赖 RAG，模型永远无法产生这样的化学反应：“你现在问我这个问题，让我回想起团队里某个人上周做的一项研究，虽然你没提到他，但我能在抽象层面上建立联系，并提供给你。” 这种深度的联想，只有当知识被真正内化到神经网络的权重（Weights）中时，才能发生。

对于 Engram 来说，他们的信条非常明确：“外化的记忆固然有价值（就像人类需要用便利贴一样），但核心的工作逻辑必须被内化到模型本身之中。”

02 AI 凭什么不能像人类一样“做梦”？

如果说把知识塞进 Prompt 是填鸭式教育，那么把知识训练进模型权重里，就是真正的“消化吸收”。这就是目前 AI 领域最热门的两个词汇：记忆（Memory） 与 持续学习（Continual Learning）。

但在传统的机器学习中，把新知识训练到已有模型里是一场噩梦，最著名的现象叫做“灾难性遗忘”（Catastrophic Forgetting）——模型学了新知识，却把老知识全忘光了。

重新定义“持续学习”

Engram 认为，目前学术界对于持续学习的定义有些走偏。“很多学术基准测试，是在考验模型能不能死记硬背某个非洲国家的一座桥的长度。但这根本不是我们想要 AI 消耗宝贵算力去记住的东西。”

真正的记忆是**有损压缩（Lossy Compression）**的。人类大脑之所以高级，不仅在于记住重要的东西，更在于懂得遗忘不重要的细节。记忆的本质是为了将零散的知识组合成更复杂的抽象概念。

引入“睡眠与梦境”机制

作为一个曾经的神经科学家，Don Beerman 提出了一个非常超前的设想：让 AI 像人类一样“做梦”。

“我们在梦里做什么？我们会回放白天的经历，会和自己对话，会尝试模拟在社交场景中什么是能做的、什么是不能做的。” 

基于此，Engram 试图为模型构建一种“梦境”机制：在非交互的空闲时间，让模型撤回到后台，重新消化白天用户提供的高价值上下文。 通过反复模拟、沉淀，将这些繁杂的交互数据真正内化为模型的直觉。当第二天用户再次提问时，模型不再需要去翻找厚厚的文档，而是能直接以极低的延迟给出高度定制化的回答。

03 为什么巨头（Frontier Labs）做不好这件事？

很多人会问：既然记忆和持续学习这么重要，为什么不直接等 OpenAI、Anthropic 甚至 Google 在下一代 GPT-5 或 Claude-4 中解决它？

巨头的 P0 目标是 AGI

对于这些 Frontier Labs（前沿大模型实验室）而言，他们的最高优先级（P0）非常明确：通过极其庞大的数据、更深的 RL（强化学习）和更多的推理时算力，打造一个极其强大的、无所不能的 AGI（通用人工智能）。 他们的目标是去解决那些极其硬核的难题，比如高级编程、复杂数学、密码学。

尽管他们也在关注记忆功能（比如 ChatGPT 已经推出了局部的记忆功能），但这在巨头内部更像是一个“产品功能补充”，而不是底层的科研重心。

企业需要的是“千人千模”

Engram 看到了一个与巨头截然不同的世界观。

“我们不认为未来是一个巨大的、一统天下的模型解决所有问题。”Jesse Lynn 描述道，“相反，每个人、每个团队都应该拥有自己专属的模型。”

很多对企业有极高价值的知识，永远不会出现在大模型的预训练数据中（因为它们是高度私密的）；而且不同公司的做事风格、代码规范甚至可能是相互冲突的。你无法用一套极其干净的、对齐好的标准奖励信号去训练一个适用于所有公司的模型。

Engram 的目标不是去和巨头卷通用能力，而是站在巨头肩膀上（比如使用开源架构），在工作空间（Workspace）层面，为每一个知识工作团队训练专属模型。

04 KV Cache 的痛点与“权重”的魔法

如果深入到当前 AI 基础设施的最底层，我们会发现过度依赖长上下文带来了一个巨大的架构灾难：KV Cache。

为了让大模型在长对话中不忘记前面说过的话，系统需要将前面的 token 状态缓存起来（即 KV Cache）。Don Beerman 算了一笔账：

“把一篇维基百科的文章加载到 70B 模型的 KV Cache 中，可能会消耗惊人的几十个 GB 的显存（HBM）；而这整个 70B 模型本身的权重加起来，可能也就 100 多 GB。这意味着，模型用 100 多 GB 记住了整个互联网的知识，而你为了让它记住一篇文章的临时上下文，就要花掉差不多同样大小的内存空间！”

这证明了一点：梯度下降（Gradient Descent）在压缩信息进入模型权重方面的效率，堪称奇迹。

如果我们可以将那些需要在团队内长期复用的上下文（比如公司的核心文档、项目的底层代码库），通过后台训练（Offline Training）压缩到模型的权重里，我们加载到 Cache 里的负担将缩小上千倍。这不仅意味着推理成本的断崖式下降，更意味着模型响应速度和表现保真度的巨大飞跃。

05 终极探讨：视觉与语言，谁才是主宰？

除了商业与架构的洞察，两位有着神经认知背景的创始人也分享了对于 AI 形态演变的“暴论”。

在生物进化中，人类是高度视觉驱动的生物，大脑中大量的神经皮层被分配给了视觉处理。但在过去两年的 AI 爆发中，语言模型（LLM）却绝对碾压了视觉模型，成为了通用人工智能的曙光。 这违背了生物学的直觉。

Don Beerman 坦言，这确实令人惊讶。“语言其实是一种非常高级且极其不自然的表达方式。每个词都被编码为高维空间中的一个向量，这与动物界感知世界的方式截然不同。”

但他同时认为，之所以当前语言模型能占据主导，本质上是因为我们在知识工作（Knowledge Work）中的大部分输出本来就是以文本形式存在的。“我们并没有进化出每天坐在电脑前读写备忘录的大脑回路，但我们现在依然这么做。所以对于办公场景，文本是最高效的。”

当然，随着具身智能（Embodied AI）和空间计算的到来，视觉和多模态必然会迎来爆发。但对于当下的商业效率而言，语言模型依然有着不可替代的霸主地位。

06 结语：下一代数据平台，将是一个个“神经网络”

当被问及未来 5 到 10 年，世界会变成什么样时，Engram 的两位创始人描绘了一幅令人振奋的蓝图。

“我们将不再依赖扁平的文件系统，而是依赖神经网络。”

传统的软件架构中，我们通过数据库和文件系统来管理数字资产（如 Oracle, Databricks）。但在未来，代表你公司 IP 的，不再是冷冰冰的文件目录，而是一个经过数百万次交互训练、深度理解你公司文化、人员和业务脉络的神经网络状态（Brain State）。

它将成为每家公司、每个人与数字世界交互的最强大的超级接口。在这个世界里，你不再需要痛苦地撰写超长提示词，也不需要等待 RAG 系统缓慢地翻阅资料。它懂你，不是因为它刚刚查阅了你的档案，而是因为它已经将你的习惯内化为了它的直觉。

这就是 AI 从“聪明的机器”走向“得力伙伴”的必经之路。

本文基于 Engram 创始人参与行业播客对谈整理编译，不代表本平台最终立场，欢迎探讨。