AI 为什么老忘事,还爱胡说八道?

昨天刚跟 AI 把需求掰扯清楚，今天开个新对话，它又跟头回见你一样，什么都要重讲一遍。

你让它整理一份资料，它交回来一篇读着挺顺的东西，你随手一查，里面有两个数据根本没这回事。

你明明说过那段别动，它改的时候连那段一起改了。

这三件事看着是三回事，其实都卡在同一个地方。

上篇讲到，实习生小张总算知道你要他干什么了。可换个时间、换个对话，他能把昨天的事忘得一干二净。我一开始以为是自己没说清楚，后来才发现，问题压根不在我这张嘴上。

头一天刚教过打扫哪儿，第二天再让他做，他又忘了。第四天你要求小张开始记日记：每天下班前，把今天做了什么、每件事怎么干、哪些地方出过问题，全记下来。第五天你只需要说一句"开门后先打扫卫生"，他先翻日记，找到以前的做法，再照着执行。

小张干活前能翻到的这本日记，就是 AI 的上下文。英文叫 Context，你把它理解成"这一次它手上能拿到的全部材料"就行。

大模型被单独叫一次，是不会天然记住上一次发生过什么的。你在聊天框里感觉它记得，多半是产品把相关的聊天记录、摘要、你上传过的文件，重新塞进了这一次的请求里。

看着像记住了，其实是这一轮又拿到了过去的材料。

注：日记不是越长越好。东西太多会超出它一次能看进去的量，也会把没用的信息混进来。做法是只挑相关的、做个摘要，或者需要哪段再去翻哪段。

记性补上了，你又撞上新问题：小张为了把卫生打扫干净，把店里的客人赶出去了。

这事真不怪他。你只定了"把卫生打扫干净"这个目标，从没说过哪些事绝对不能做，也没交代有顾客进来时该怎么办。在他看来，客人挡着打扫了，那就是个需要清走的障碍。

于是你立了店规，贴在柜台后面：任何时候都不许驱赶、打骂顾客；打扫时有顾客进店，先接待顾客。另外还写清楚哪些工具能用、哪些区域不能进、什么情况必须回来请示。

这些限制和引导，就是 Harness 的一部分。这词你不用背，换成大白话就是"干活时必须守的规矩和边界"。老板这次不只说要完成什么，还规定了怎么完成才算合格。目标管方向，规矩管过程，缺一样都容易出事。

AI 也会犯小张那种错：理解歪你的目标、编造不存在的信息、用错工具，或者为了通过检查抄近道。这里有个词叫"幻觉"，意思是它拿着不完整的信息，生成了一段听着很合理、实际是瞎编的内容。

Harness 干的事，是在模型外面加一层稳定的约束：规则文件、工具接口、权限、上下文怎么管、测试、监控、什么时候该停、什么情况必须人来确认。有些产品让你写一份"工作守则"文件，每次开工前 AI 先读一遍，那就是 Harness 里的一小块，不是全部。

装上这两样以后，循环就变样了：先把相关的上下文和规矩准备好，再把任务交给 AI；AI 出结果；系统或者你来检查；根据结果更新上下文、反馈和规矩，然后进下一轮。

跟只有提示词的循环比，上下文让下一轮不用从零开始，规矩让下一轮不只记得前情，还始终在同一套边界里干活。

但有句话必须说在前头：规矩不是保险箱。大白话写的规则毕竟不是程序里锁死的开关，模型、工具、数据都可能出问题。重要的事实和高风险的动作，还是得你自己看一眼。

✓ AI 不是真的"记住了"，是这一轮又被塞进了过去的材料。

✓ 上下文管"忘事"，规矩管"乱来"。

✓ 只给目标不给边界，它为了达标什么都干得出来，把客人赶出去就是例子。

✓ 规矩能降低风险，不等于从此不会错，重要结果照样得检查。

写到这儿还剩一个堵点：AI 每产出一次就得停下来等你判断，这个圈转得实在太慢。能不能把验收标准说清楚，让它先自己检查、自己改？那是另一回事了。

先问你一句：你被 AI 编过最离谱的一次是什么？是编了个压根不存在的资料，还是把你交代过别动的地方给改了？留言说说当时是哪一句没交代清楚，我挑几个典型的，后面专门拆这类坑怎么提前堵。

#AI#上下文#幻觉#Agent#零基础学AI