为什么 AI 聊完就忘?它的记忆其实不在“脑子”里

《AI 为什么记得你》系列 · 第 1 篇

林晓今年 34 岁，在一家互联网公司做产品经理。她的右膝几年前受过伤，医生叮嘱过少做跑跳类运动。

最近她想恢复锻炼，就问了 AI 助手。第一次聊的时候，她说了膝盖的情况，AI 很贴心地推荐了游泳。

过了几天，她开了一个新对话，问：“我想每天运动半小时，有什么建议？”

AI 给的第一条建议是：晨跑。

林晓有点无奈：我不是跟你说过膝盖的事吗？

你可能也遇到过类似的情况：刚跟 AI 讲清楚你的需求，换个对话它就全忘了；可有时候，它又突然冒出一句“记得你上次说过……”，让你吓一跳。

AI 到底有没有记忆？如果有，它的记忆存在哪里？

这是《AI 为什么记得你》系列的第一篇。在这个系列的十篇文章里，我会把自己学习“AI 记忆”的过程整理出来，尽量用大白话讲清楚。今天先回答最根本的问题：AI 为什么会忘。

▍一、AI 是一位“每次都失忆”的天才

先说结论：我们平时说的“AI”，核心是一个大语言模型。而大语言模型本身，是没有记忆的。

这听起来有点反直觉。它明明知道那么多东西：历史、化学、写代码、写诗。这些不就是记忆吗？

打个比方。想象有一位学识渊博的顾问，读过图书馆里几乎所有的书，你问什么他都能答上来。但他有一个怪病：每次见完一位客人，他就会忘掉刚才发生的一切。

你第二次去找他，他依然博学，依然热心，但他不认识你，也不记得你上次说过什么。

大语言模型就是这样一位顾问。它的“博学”来自训练：在海量文本上学习过后，知识被压缩进了模型的参数里。这部分知识是固定的，训练完就不会因为和你聊天而改变。

而每一次你发消息，模型做的事情其实非常简单：读一遍这次递给它的全部文字，然后接着往下写。 写完交差，它自己什么也不会留下。下一次，又是一张白纸。

技术上，这叫做“无状态”：模型不保存任何关于你的状态，每次调用都是独立的。

所以林晓遇到的问题就有了解释：她在新对话里提问时，模型收到的只有那一句“我想每天运动半小时”。膝盖受伤的事，它压根就没看到。

▍二、那它为什么有时又“记得”你？

既然模型每次都失忆，为什么在同一个对话里，它明明记得你五分钟前说的话？

答案是：不是它记得，是有人把笔记递到了它面前。

回到那位失忆顾问。假如他身边有一位尽责的秘书，每次你开口之前，秘书都先把你们之前的聊天记录整理好，和你的新问题一起递给顾问。顾问读完这张纸，就“想起来”了。

AI 产品里确实有这样一位“秘书”。它是包在模型外面的一整套程序，负责接收你的消息、决定把哪些内容交给模型、调用工具、保存和读取资料。工程师常把它叫做 harness，原意是“马具”：模型是那匹有力气的马，harness 决定这份力气怎么用、往哪里用。

在同一个对话里，harness 做的事情很简单：你每发一条消息，它就把这次对话从头到尾的记录，连同新消息一起重新发给模型。模型每次都是从头读起，只是读得很快，所以你感觉不到。

而当你开一个新对话时，这份聊天记录就不在了。如果想让 AI 跨对话记住你，harness 就得多做几件事：

1.记下来：在聊天中或聊天后，把值得记住的信息整理成笔记，比如“右膝受过伤，避免跑跳”。

2.存起来：把笔记放进数据库。

3.在合适的时候拿出来：下次你问运动的问题时，把这条笔记挑出来，和你的问题一起交给模型。

这就是 AI 产品里“记忆功能”的本质。从模型的角度看，它并没有“想起”什么，只是这一次收到的纸上，刚好写着你膝盖的事。

所以，与其问“这个 AI 记性好不好”，不如问：它的秘书记笔记记得好不好、递笔记递得准不准。

▍三、AI 的三种“记忆”

把上面的内容整理一下，当我们说“AI 的记忆”时，其实可能指三种完全不同的东西。

第一种，训练时学到的知识。 就是顾问读过的那一整座图书馆，存在模型的参数里。它知道游泳对膝盖压力小，就是这种记忆。但它不会因为和你聊天而增加，里面也没有任何关于你的信息。

第二种，这一次递到它面前的内容。 包括当前对话的记录、你上传的文件、秘书夹进来的笔记。专业上叫“上下文”，你可以把它想象成顾问桌上的那张工作台。台面上有什么，它这一次就能用什么；用完就清空。

第三种，存在外面的长期记忆。 就是秘书的那本笔记本：你的职业、偏好、膝盖的旧伤、最近在忙的事。它不在模型里，而在产品的数据库里，可以长期保存、随时修改。

这张表里最值得注意的是“谁管理”那一列：和“记住你”有关的两种记忆，都不在模型里，而是由 harness 管理。

这就是为什么用同一个模型做出来的不同产品，“懂你”的程度可以差得很远。差别不在模型聪不聪明，而在产品怎么设计它的记忆系统：记什么、怎么记、什么时候拿出来。

▍四、为什么不把所有聊天记录都塞给它？

读到这里，你可能会想：既然模型每次都从头读，那干脆把我和它聊过的所有记录都塞进去，不就什么都记得了？

现在的模型，工作台确实越来越大了，有的一次能读下好几本书的文字。但“全部塞进去”仍然不是好办法，原因有三个。

第一，贵，而且慢。 模型每读一个字都要花算力，工作台上的东西越多，每次回复就越贵、等得越久。为了答一句“今天练什么”，把半年的聊天记录都重读一遍，很不划算。

第二，东西太多，它会看漏。 研究发现，当上下文很长时，模型对开头和结尾的内容比较敏感，夹在中间的关键信息反而容易被忽略。就像堆满文件的办公桌，东西都在，就是找不着。膝盖受伤那句话，很可能就埋在几百条闲聊中间。

第三，旧信息会过时。 上个月林晓说“这周在出差”，这个月她早就回来了。原始聊天记录里，过时的和仍然成立的信息混在一起，模型未必分得清。

所以好的记忆系统，不是把所有东西都堆上桌，而是像一位好秘书那样：平时认真记笔记，用的时候只递上最相关的几页。 这张“工作台”有多大、该怎么整理，是第 3 篇要详细讲的内容。

▍五、你的 AI 记住了你什么？

明白了“秘书记笔记”这件事，再看市面上 AI 产品的记忆功能，就清楚多了。

ChatGPT 从 2024 年开始推出记忆功能，Claude 在 2026 年 3 月把记忆开放给了包括免费用户在内的所有人。各家的做法细节不同，但大体都是两种“秘书”的组合：

●记笔记型：系统从你的聊天中提炼出关于你的要点，比如职业、偏好、正在做的项目，整理成一份“关于你的档案”，每次对话都带上。你也可以直接说“记住……”让它写进去。

●翻档案型：不事先整理，而是在你提到以前的事情时，去历史聊天里搜索相关的片段，再拿给模型看。

知道了原理，有几件事就值得你主动去做：

1.去看看它记了什么。 主流 AI 产品都在设置里提供了查看记忆的入口。第一次看，你可能会惊讶它知道这么多。

2.发现记错了，就改或删。 秘书也会记错笔记。记错的内容会被一次次递给模型，影响它给你的每一个建议。

3.不想被记住的对话，用临时或无痕模式。 比如帮朋友查的事、一次性的问题，不必让它写进你的档案。

4.重要的事情，直接让它记住。 如果林晓当时对 AI 说一句“记住，我右膝受过伤，不能做跑跳运动”，开头的问题大概率就不会发生了。

这些细节和入口位置，各家产品更新得很快，以你手里的最新版本为准。

下期预告

人有好几种记忆：记得昨天吃了什么、知道北京是首都、会骑自行车、心里正在算一道题，分别用的是不同的记忆。下一篇，我们看看 AI 研究者是怎么借鉴人类记忆，给 AI 设计记忆的。

《人有四种记忆，AI 也在学》，下周见。

— 完 —

参考资料

Lilian Weng，LLM Powered Autonomous Agents，Memory 一节https://lilianweng.github.io/posts/2023-06-23-agent/

你的智能体记忆系统综述，第一节"记忆在智能体中的位置"https://claude.ai/code/artifact/944ef9f3-dd04-4422-b1db-44b1637e601c

注：文中“林晓”为虚构人物，案例仅用于说明原理。