关注并加入星标,每天 7:33 准时送达一手洞察 🌟
深夜,你遇到一个棘手问题。打开AI助手,从零开始描述背景、上下文、自己的思考过程。AI耐心听完,给出一个靠谱的回答。问题解决,你安心睡觉。
第二天,你碰到一个相关的问题。打开对话,发现AI完全“失忆”——它不记得昨晚的对话,不记得你做过哪些分析和判断。你只能重新开始,再花十分钟把背景描述一遍。
第三天、第四天……同样的场景反复上演。
这是AI厂商们做的一道“算术题”。
AI为什么必须学会“忘记”你?
今年5月,OpenAI发布了一项看似不起眼的更新——ChatGPT的“记忆功能”终于向所有用户开放。这意味着AI可以记住你在对话中的偏好、个人信息和关键决策,并在后续对话中维持这种记忆。
听起来不错,对吧?
但紧接着,OpenAI又公布了一个截然相反的实验方案:让AI主动“遗忘”。他们正在测试一种“筛选式记忆”机制——AI会主动判断哪些对话内容值得记住,哪些应该被丢弃。在测试中,某些长期对话的上下文会被自动压缩,只保留“关键摘要”,具体细节则被系统性地清除。
为什么同一家公司同时在做“记住”和“忘记”两件事?
答案藏在另一个数据里:OpenAI披露,长上下文推理的成本随着上下文窗口的增长而“非线性增长”。官方文档写道:“对于包含20万token的输入,推理延迟和计算成本相比10万token并非线性增加2倍,而是高出4到5倍。”
简单算一笔账:如果每个用户的对话上下文从5000 token膨胀到50000 token,OpenAI的计算成本是可能增加几十倍。当ChatGPT的周活用户超过1亿时,这种成本差异就不再是技术问题,而是商业问题。
AI的“遗忘”是一个经济决策。

一条比摩尔定律更残酷的新定律
这引出了一个更大的趋势:AI领域的成本结构正在发生根本性转变。
过去两年,所有人都在关注训练成本。GPT-4训练一次的成本据说高达7800万美元,这成了各大媒体争相报道的新闻。但现在,一个更隐蔽、更持久、对普通用户影响更大的成本项正在浮出水面——推理成本和记忆成本。
这不是理论问题。看看各大AI公司的产品策略就知道了:
• ChatGPT Plus和Pro的定价差异,核心区别之一就是“记忆可用容量”
• Claude推出了“项目知识库”功能,本质上是在用户记忆和AI模型间建立一个限速缓冲器
• 谷歌的Gemini则会主动提示“你的对话已达到上下文限制”
这些不是巧合。它们都在做同一件事:在“记住多少”和“花多少钱”之间找平衡点。
一位业内人士用一个比喻解释了这个困境:想象你有一个私人管家。如果这个管家拥有过目不忘的记忆力,每次和你交谈都要回忆你们之间的每一次对话、每一个细节,那么他每次和你见面前都要花30分钟回顾所有记录。如果你每天见这个管家3次,他一天就要花1.5小时仅用于回忆——这时间成本谁来付?
对于AI来说,这个成本是服务器上的算力。

记性太好,反而更笨了?
如果成本问题已经够棘手,那还有更反直觉的发现。
DeepMind在2024年发表的一篇论文中发现:当AI模型的上下文窗口超过某个阈值后,其回答的准确性和相关性反而开始下降。这个现象被称为“上下文过载”。
想象一下:如果你在ChatGPT中连续对话了整整一个月,上下文里塞满了各种主题的讨论——从编程问题到情感咨询,从食谱推荐到股票分析。当你问“昨天咱们讨论的那个方案,你觉得第一步怎么走比较好?”,AI需要在数千个不同主题的对话片段中找到相关信息。
实验结果令人震惊:当上下文包含超过30个完全不相关的对话块时,AI对近期关键信息的回忆准确率下降超过40%。
记忆力太好,反而影响了判断力。
这意味着“遗忘”不仅是成本问题,还是一个性能问题。没有筛选的记忆是负债。
这就像你有一个能记住所有事情的朋友。每次你问他一个问题,他必须先翻完自己大脑里全部的记忆,从中筛选出相关的部分。你问他“昨晚我放在桌上的钥匙去哪了”,他回答说“等一下,让我先回忆一下你那件蓝色衬衫是什么时候买的,还有那天你在咖啡店遇到的那个人的名字……”——你不想打他吗?

“可选遗忘”正在成为新的护城河
理解了上面的逻辑,你就能看懂AI行业正在发生的一个重要变化。
过去,人们判断一个AI好不好,主要看“记忆力”——上下文窗口越大越好。GPT-4的32K token、Claude 3的200K token、Gemini 1.5 Pro的1M token——大家都在这场“上下文窗口军备竞赛”中加码。
但现在,风向变了。
最新的产品思路是“什么该记住,什么该忘”。换句话说,AI的“记忆力”正在从“存储能力”变成“筛选能力”。
这带来了一系列有趣的产品创新:
• Notion AI推出了“智能摘要”功能,能自动将长时间对话压缩成结构化笔记
• Mem(一个AI笔记工具)会主动判断哪些信息“过时”并建议归档
• 某创业公司甚至开发了一个叫“Forget Me Not”的API,专门让开发者控制AI的记忆粒度
这些产品的共同特征是:把“遗忘”变成一个主动策略,而不是被动结果。

一个你早晚要面对的问题
到这里,你可能会想:“这些是AI公司的事,和我有什么关系?”
有关系。而且关系很大。
因为你正在做的很多事,本质上是把AI当成一个“第二个大脑”在使用。你把项目的关键信息、产品的决策逻辑、甚至生活中的重要事件告诉AI,希望它能成为你的数字延伸。
但如果AI选择了“遗忘”某部分信息,而你恰好需要那段信息——你会遇到两个问题:
第一,你会高估AI的记忆。你可能习惯在AI的帮助下工作,认为它会记住所有上下文。但当某个关键信息被“筛选掉”之后,你的决策就会建立在一个不完整的基础上。
第二,你会低估丢失信息的代价。AI的“遗忘”不是显式的——它不会告诉你“我不记得了”,它可能会编造一个答案来填补空白。这正是已经被广泛报道的“AI幻觉”的另一个来源。
所以,有先见之明的做法是什么?
别把AI当成你的备份大脑。
如果你真的依赖某个工作流程或决策逻辑,不要只存在于AI的上下文中。把它外部化——写成文档、存入数据库、或者做一个你真正可控的笔记系统。
你的AI助手可以帮你处理那些“用完就丢”的临时性任务。但真正重要的东西——你的思考、你的决策、你的判断——请确保它们还在你自己的掌控之中。
在未来几年,如何处理“遗忘”这件事,或许比如何处理“记忆”更能决定一个AI产品的上限。
而那些能帮你在信息洪流中最有效筛选、优先记忆、主动遗忘的AI工具,可能才是你真正需要的“第二个大脑”。
夜雨聆风