夜雨聆风AI记忆层的系统重构：Engram的洞见（来自General Catalyst）
对话者
Dan Biderman : Engram联合创始人兼首席执行官
Marc Bhargava : General Catalyst董事总经理
概要
2026年6月23日，AI记忆初创公司Engram正式走出隐身模式，宣布完成9800万美元A轮融资，由General Catalyst、Kleiner Perkins和Sequoia Capital共同领投，OpenAI联合创始人Andrej Karpathy、Wiz联合创始人兼CEO Assaf Rappaport、UC Berkeley人工智能与机器人先驱Pieter Abbeel等参与跟投。这家成立仅八个月、仅有13名员工的公司，已获得Microsoft、Notion和法律AI初创公司Harvey等一线企业客户。
Engram的创始团队汇聚了来自斯坦福、伯克利和康奈尔等顶尖机构的AI与神经科学研究者。CEO Dan Biderman拥有哥伦比亚大学计算神经科学博士学位，后在斯坦福AI实验室师从现代机器学习领域最具影响力的人物之一Chris Ré完成博士后研究。CTO Sabri Eyuboglu同样为斯坦福博士，开发了Cartridges这一将大量文档转化为紧凑可重用记忆的经典方法。团队还包括曾在Meta FAIR实验室从事研究的Jessy Lin（伯克利博士）、Cornell博士Jack Morris，以及斯坦福统计学与神经科学终身教授Scott Linderman。
本次对话的核心命题是：当前AI模型的根本瓶颈不在于推理能力，而在于记忆能力的结构性缺陷。Biderman将其概括为“天才陌生人”（genius stranger）问题——模型极其聪明，但对用户和组织几乎一无所知。Engram的解决方案是将知识直接训练到模型权重中，形成持续学习、不断积累的“记忆层”，使模型在使用1%到10%的token条件下达到或超越前沿模型的性能。
对话围绕以下维度展开：AI记忆缺陷的结构性分析、Engram的技术路径与差异化、token经济学的产业背景、创始团队的学术基因与人才密度、以及自服务导向的GTM策略。
主题一：AI的“天才陌生人”困境——记忆作为被忽略的瓶颈
当前AI产业最流行的叙事是“模型规模的持续扩大将带来智能的持续提升”。但Engram团队从神经科学和机器学习交叉的视角提出了一个截然不同的判断：限制AI发展的不是推理能力，而是记忆能力。
Biderman在对话中将这一困境概括为“天才陌生人”模型。今天的AI可以在任何给定时刻展现出惊人的推理和综合能力——它能“在第一天就超越一名优秀的新员工”。但到了第500天，它并不会比第一天更好——因为它在每次会话中学到的一切都会在会话结束时消失。每一次新的交互，模型都在重新读取相同的文档、重新学习相同的上下文、重新发现相同的组织知识。正如Biderman所言：“今天人们使用的AI，在很大程度上是实时即兴发挥它对一个组织的了解”。
这一问题的根源在于Transformer架构的根本性约束。注意力机制随着上下文长度的增长而变得指数级昂贵，模型只能在一个狭窄的窗口内保持信息。超过这个窗口的一切——之前的工作、团队的知识、整个代码库——必须在每次会话中重新输入，否则就永久丢失。行业对此的标准回应是更长的上下文窗口和更好的检索系统。但General Catalyst在其投资公告中指出：“一个更大的文件柜不等于学习”。
Biderman用“便利贴”的比喻形象地说明了这一问题的荒谬性：“无论AI对你了解多少，都是在现场即兴拼凑的——一张关于你过去的便利贴，一段在对话中途拉出来的文档”。如果能够提前预测用户的交互，就可以提前准备记忆，而不是在对话过程中不断粘贴碎片化的信息。
这一问题在2026年变得尤为紧迫，因为企业正在以前所未有的规模部署AI智能体。每一次智能体调用都需要消耗token，而这些token正在“悄无声息地成为企业技术领域最大的财务压力之一”。Biderman指出，2026年个人每天将生成数千万token——这些token包含了关于企业、团队和个人的大量有价值知识，但现有模型无法有效吸收和保留这些知识。这正是Engram试图解决的结构性空白。
主题二：从“便利贴”到“大脑状态”——Engram的技术路径
Engram的技术路径与传统RAG（检索增强生成）和长上下文方案存在根本性差异。其核心理念是：改变知识存在的位置。
传统方法是在推理时反复向模型喂入相同材料。Engram则将这些材料直接训练到模型的权重中。一旦知识被编码到权重中，调用它就变得极其廉价，而用新数据更新它的效率也比重新喂入材料高出数个数量级。模型从“重读一切”转变为“凭记忆回答”。
这一方法源于创始团队多年积累的一系列学术成果——BASED、Cartridges、LoRA基础方法、Minions、Lin的Active Reading和Sparse Memory Finetuning、Morris的记忆化工作。这些研究共同解决了一个核心难题：如何将整个知识库折叠到一个紧凑的模型中，并使其持续学习而不会发生灾难性遗忘。
在早期部署中，这一方法已经产生了实质性的回报：模型比基于检索的智能体回答更准确，同时消耗的token仅为其一小部分。Engram声称其模型可以在最多使用少100倍token的条件下达到或超越前沿模型的性能。Engram的愿景是构建一个“AI的记忆操作系统”——按用户和团队组织的知识，从实时工作中持续更新，成本仅为传统方法的一小部分。
在对话中，Bideman进一步阐释了这一技术范式对AI工作流的深远影响。以企业内部的工单分派为例——一个看似简单但实际需要微妙理解的任务。传统方法需要模型实时查询所有Slack频道、GitHub PR和Notion页面，可能消耗10万token。而Engram的模型“从它的头脑中”就知道谁是谁、团队在做什么、什么重要。如果模型不知道，它也知道去哪里搜索——这解决了当前智能体系统中最核心的挑战之一：有时你甚至不知道该搜索什么。
主题三：Token经济学——成本压力如何催生记忆层需求
Engram的融资时机并非偶然。2026年，企业AI部署正面临一场前所未有的成本危机。
新模型和更复杂的AI模型被证明比前代产品更昂贵，挑战了“更大规模将带来更低成本”的传统观点。Meta在对内部token使用实施严格限制时发现，到2026年其仅AI一项支出就将达到数十亿美元。Kleiner Perkins合伙人Leigh Marie Braswell在CNBC的报道中指出：“数据爆炸了，成本也爆炸了。Engram进来基本上描绘出你的组织，并提供数量级更便宜的产出”。
企业正在寻找降低AI运营成本的方法。Engram的直接价值主张是：通过让模型“记住”而非“重读”，大幅减少推理token消耗。Biderman在对话中指出，Engram已实现了10倍到100倍的推理token减少。这不仅仅是“省钱”——更少的token消耗意味着智能体可以运行更长时间、处理更复杂的任务，因为上下文窗口变得更加连贯。
Kleiner Perkins、Sequoia和General Catalyst等顶级VC的参与，表明市场已经认识到“token效率”将成为AI产业下一阶段竞争的关键维度。正如Engram的官方新闻稿所指出的：“随着企业在各个职能中部署AI智能体，那些被浪费的token正在悄无声息地成为企业技术领域最大的财务压力之一”。
从更宏观的视角看，token经济学正在重塑AI产业的竞争格局。当前沿模型公司（OpenAI、Anthropic）即将IPO、市场开始关注其盈利能力和运营效率时，“如何用更少的token做更多的事”将成为企业客户选择AI供应商的核心考量之一。Engram正是在这一结构性拐点上切入市场。
主题四：学术基因与人才密度——从实验室到公司的范式转移
Engram最引人注目的特征之一是其异常高的人才密度。在仅有13名员工的情况下，公司汇聚了来自斯坦福、伯克利、康奈尔等顶尖机构的多位AI与神经科学研究者。
这一团队的形成本身就是一种信号。Biderman在对话中坦承：“组建AI公司现在很有趣。筹集资金是一项活动——有资金，有东西可建。但找到合适的人非常困难，因为机会成本极高。人们可以去大实验室和超大规模公司，拿到高得令人难以置信的薪水，让他们几乎不可能去创业”。
那么，Engram如何吸引这些人才？Biderman的回答是“传教士”而非“雇佣兵”。团队中的每个人在之前的职业生涯中——无论是学术界还是大型AI公司——都已经相信未来的模型不会是“一个模型”，而是会以有趣的方式从数据中学习，这需要新的基础设施和新的算法。他们加入Engram不是因为财务激励，而是因为他们“想要看到一个在其他地方被较少强调、在其他地方不是P0而是P3的愿景”。
General Catalyst在其投资公告中强调了这一团队的特殊性：“他们离开学术界来修复这个问题，并已吸引高级研究人员离开终身教职和领先的AI公司加入他们”。这不仅是人才的聚集，更是一种范式的转移——从“发表论文的学术完美主义”转向“快速检查点、快速推进”的工程文化。
Biderman自身从学术界到创业的转变提供了一个观察窗口。在学术界，目标是“打磨一个艺术品，可能需要一年、一个月或三年才能发表，然后它就成为一件可以永远冻结的永恒之物”。而在公司世界，必须“学会不做一个完美主义者，快速检查点，向前推进”。这种心态的转变——从追求“永恒正确”到追求“快速迭代”——是学术型创始人在AI时代取得成功的关键能力。
主题五：自服务优先的GTM策略——在“前向部署工程师”时代的选择
当前AI企业软件市场的一个显著趋势是“前向部署工程师”（forward-deployed engineer, FDE）模式的盛行——派遣工程师驻场为客户构建定制化解决方案。Palantir是这一模式的开创者，大量AI初创公司也在效仿。
但Engram选择了一条不同的路径：自服务优先。Biderman在对话中坦承：“我们还没有建立起一个成熟的GTM业务。我们非常早期，大部分工作都是我们自己做的。但我们真的试图将公司的第一阶段聚焦于构建一个尽可能自服务的产品”。
这一选择反映了Engram对自身DNA的清醒认知：“我们是一个前沿实验室，还是一家服务公司？对我们来说，我们更像是一个前沿实验室”。Biderman以Anthropic和OpenAI为例：这些前沿实验室在发展的第五年或第十年才开始与PE公司合作进行前向部署，因为技术已经足够成熟。Engram希望走同样的路径——先让技术本身足够“疯狂”，让用户愿意主动学习如何使用它。
当然，这一策略伴随着风险。Biderman承认：“我们有很多工作要做才能完全实现自服务。但我们希望，我们要么可以全力投入这个方向，要么与其他公司和咨询机构合作，在需要更多手把手指导的地方进行合作”。
值得注意的是，Engram的早期客户名单（Microsoft、Notion、Harvey）表明，即使在其自服务战略的早期阶段，公司已经能够吸引全球最顶尖的企业客户。与Microsoft的合作尤为关键——双方正在Microsoft 365环境中评估Engram的技术，重点提高效率并使AI系统更好地理解组织上下文。Microsoft企业AI合作伙伴催化剂部门副总裁Jason Graefe表示：“Engram的方法可以帮助组织创建和维护AI记忆，同时支持长期运行的企业智能体”。
总结与展望
Dan Biderman与Marc Bhargava在General Catalyst的对话，揭示了一个正在形成中的AI产业新范式：当模型推理能力达到一定阈值后，“记忆”将成为决定AI价值的关键瓶颈。
从产业演进的角度看，Engram的定位具有清晰的结构逻辑。前沿模型公司（OpenAI、Anthropic）的核心使命是构建“单一的通用模型”——追求广度、追求AGI。这一使命必然导致它们将资源集中在扩大模型规模、提升推理能力上。而Engram的任务是“如何将大量知识库以新的方式喂入模型”——这是一个不同的、互补的问题集。Biderman明确表示：“我们不是在赌前沿实验室会失败。事实上，我们对所有模型公司都非常看好。我们只是在构建一个位于数据层的新型模型”。
从经济学的角度看，token成本的持续上升正在创造对“记忆层”的刚性需求。当企业AI支出达到数十亿美元量级时，任何能够将token消耗降低10倍到100倍的技术都将获得巨大的商业价值。Engram的9800万美元融资和顶级投资者的参与，正是市场对这一判断的验证。
展望未来，几个趋势值得持续关注。第一，“记忆层”是否会成为AI基础设施的标准组件——就像数据库之于传统应用一样？Engram的愿景是一个“AI的记忆操作系统”，这暗示了一个全新的基础设施层的可能性。第二，自服务模式能否在高度复杂的企业AI市场中成功？Engram的选择与当前FDE主导的潮流形成对比，其结果将是一个重要的市场信号。第三，学术型创始团队能否顺利完成从“研究文化”到“产品文化”的转型？Biderman本人对此有清醒的认识：“作为CEO，最让我夜不能寐的事情之一是：我们是否在为客户提供最大的价值？我们是否在正确的形式因素上让用户能够在最少的交互中看到价值，而不需要非常复杂的训练运行和大量手把手指导？”
正如Engram公司名称所暗示的——engram是神经科学中“记忆痕迹”的术语——这家公司的终极目标不是构建一个更好的工具，而是重新定义AI与知识的关系。在一个AI能力日益强大但记忆却日益碎片化的世界里，这或许是最重要的问题之一。
免责声明
本文基于有关对话，不构成任何投资建议，亦不代表任何机构的正式立场。本文仅用于研究与教育目的。