乐于分享
好东西不私藏

AI 为什么突然“失忆”?答案可能根本没进它的 Context

AI 为什么突然“失忆”?答案可能根本没进它的 Context

你走进常去的咖啡店,对老板说:

“老样子。”

老板点点头,三分钟后把冰美式递给你。

换一家第一次去的店,你再来一句“老样子”,店员大概率只想反问:您哪样?

AI 也经常遇到这种场面。

你对它说:“按刚才那个版本改一下。”“语气再稳一点。”“把它整理成老板能看的。”

你脑子里剧情完整,人物关系清楚,连老板皱眉的样子都有了。可模型面前可能只有一句——“语气再稳一点”。

这时候它还敢直接开写,不一定是懂你,也可能只是胆子大。

模型这一次回答时,实际拿到的全部信息,就叫 Context(上下文)。

Context 不是聊天框里最后那句话

上一讲说,Prompt 是你交给模型的任务说明。

Context 比 Prompt 更大。

它可能包括你当前的问题、前面的聊天记录、系统给模型的规则、上传的文件、搜索结果,以及工具刚刚返回的数据。具体放进哪些内容,由产品或程序决定。

可以把 Prompt 看成一张任务单,而 Context 是整张办公桌:任务单在桌上,参考资料在桌上,旧会议纪要也在桌上,旁边可能还压着一张“不得泄露客户信息”的红色便签。

模型不会隔空翻你电脑里的文件,也不会自动知道你昨晚和同事开了什么会。没被放上这张桌子的材料,对当前这次生成来说,就像不存在。

这也是为什么同一句话,在不同对话里会得到完全不同的回答。

你问“这个方案有什么风险”,前面如果放着一份支付系统改造方案,模型会谈并发、数据一致性和回滚;前面如果放着一份团建方案,它可能开始担心下雨和有人晕车。

字还是那几个字,答案已经跑到两个宇宙。

直接上手:同一句话,换一套 Context

我们做个一分钟实验。

先新建一个对话,只发这一句:

帮我把它写得更专业一点,发给老板。

模型通常会追问“它是什么”,或者先给你一段四平八稳的套话。因为任务有了,材料没来。

现在把信息补齐:

你要帮我写一条发给直属领导的项目更新。

已知信息:活动页原计划本周五上线;支付接口稳定性测试还没通过,预计顺延到下周二;目前不需要追加预算。

要求:先说当前进展,再说明延期原因和下一步;不甩锅,不隐瞒延期;100 字以内。

再让它写。

这一次,模型大概率会给出类似结果:

活动页主体功能已完成,目前正在进行支付接口稳定性测试。为确保上线质量,发布时间预计由本周五顺延至下周二,暂不涉及新增预算。我们将完成测试和回归验证,并在确认后同步最终上线时间。

模型没有突然升级,账户也没偷偷充会员。变化只有一个:它终于拿到了完成任务所需的 Context。

这里还能看出 Prompt 和 Context 的关系:

Prompt 是“请写一条项目更新”;项目进度、延期原因、受众和限制,共同构成了这次任务的 Context。

实操时,不妨在点击发送前问自己一句:

如果把这些内容交给一个今天刚入职、完全不了解项目的人,他能做对吗?

如果不能,模型多半也只能靠猜。

Context 也不是越多越好

很多人发现“补背景”有效,就开始把聊天记录、旧方案、群聊截图和三年前的会议纪要一起塞进去。

这像为了让厨师做一盘番茄炒蛋,把整个冰箱连同上个月的外卖盒都推进后厨。

材料变多,不等于线索变清楚。

无关内容会分散注意,过期资料可能误导判断,互相冲突的要求更麻烦。前面说“控制在 100 字”,后面又贴了一份“不得少于 800 字”的旧模板,模型只能在两位领导之间努力端水。

给 Context 做减法,可以先检查三件事:

第一,这段信息和当前任务有关系吗?

第二,它现在还有效吗?

第三,如果两条要求冲突,哪一条优先?

真正好用的 Context,不是把所有东西都倒进去,而是让正确的信息,在正确的时刻,被模型看见。

它记得我,和 Context 是一回事吗?

不完全是。

模型训练时学到的语言规律和通用知识,存在模型参数里;它们不是你这次临时提供的 Context。

一些 AI 产品还提供“记忆”功能,可以保存你的偏好,或从过去对话中找回有用信息。但这也不等于模型脑内永久收藏了全部聊天记录。更准确地说,是产品在需要时,把相关记忆重新放进当前 Context。

所以,别把关键事实寄托在一句“你应该还记得吧”上。

重要的任务,最好重新给出关键材料;重要的数字,最好标明来源和时间;不确定模型是否看到了,就让它先复述目前掌握的条件,再开始工作。

现在,把前四讲连起来:

大模型根据已经看到的 Token,预测下一个 Token;Prompt 告诉它要做什么;Context 决定它这一次究竟能看到什么。

不过,模型面前这张“办公桌”并不是无限大的。

对话越来越长以后,为什么早期信息可能被压缩、遗漏,甚至挤出去?一份几百页的文件,又为什么不能永远往里塞?

下一讲,我们聊 Context Window(上下文窗口)