AI 为什么会产生幻觉?从上下文说起

还有一种情况更难察觉。把会议纪要丢进去，让 AI 写个总结。它整理得干净利落，逻辑也顺，读着读着才觉得不对劲。翻回原始记录一查，那句话根本不是会上说的。AI 帮忙补了一个听起来很合理的判断。

这就是日常使用中常见的一类 AI 幻觉。它不一定荒唐，麻烦在于文字顺、语气稳，错误却藏在依据里。

这篇文章只讲这件事：什么样的回答算幻觉，哪些地方说明它已经开始补内容，以及为什么长对话、长材料会让这类问题更容易出现。

一、什么是幻觉

日常使用时，可以先按一个朴素的标准判断：当前材料里没有依据，AI 却用肯定语气说了出来。

这里说的“没有依据”，指的是当前这轮对话里提供的材料、前面写过的要求，都没有支撑那句话。不一定是假链接、假论文、虚构人名。有时候，它只是把一个合理（但不一定正确）的猜测写成了事实。

拿一份虚构的内部分享会复盘来看。材料里写着这样几行：

• 时间：6 月 12 日下午。
• 主题：AI 写作入门。
• 报名 48 人，实际到场 35 人。
• 现场反馈主要集中在三点：开场铺垫偏长、案例太少、练习时间不够。
• 复盘里没有记录活动预算，也没有统计转化率。

如果让 AI 回顾这场活动，它可能这样写：

“这次分享会报名 48 人，到场 35 人，转化率约 73%。”

报名 48 人、到场 35 人，材料里确实有。可“转化率”这个说法，材料里没有。到场人数除以报名人数，是模型自己算出来的，并且给它配了一个业务分析里的常用词。它听起来不突兀，所以不容易一眼看出问题。

后面再来一句，就更麻烦：

“从预算和效果看，活动投入产出比较理想，后续可以继续增加类似投放。”

材料里明明写着“没有记录活动预算”。AI 没有停在这里，反倒给出了“投入产出比较理想”“继续增加投放”的结论。

这类内容就是需要警惕的幻觉。它不一定像科幻故事那样离谱，也可能只是把没有说过的东西，用很肯定的语气写进了答案里。有了这个判断标准，后面看回答就不能只看“顺不顺”。幻觉通常不会在开头提醒“这里没有依据”，它会从一些小地方露出来。

二、幻觉出现的信号

幻觉很少孤零零地出现。它往往带着几个特征，混在一段通顺的话里。判断时不用急着给模型扣帽子，把回答拿回原始材料对一遍，很多问题就会露出来。

细节突然变多，值得停一下。材料只写了报名人数和到场人数，回答里却多出来转化率、预算评估、投放建议。数字、归因、判断，一下子都冒出来了。

语气过于确定，也要留心。材料没有给出结论的地方，AI 写的是“说明”“证明”“可以看出”。没有“可能”，也没有“材料中未提及”。它用一种很稳的口吻，把读者带到一个材料无法支撑的判断上。

还有引用对不上。它说“根据材料”，回到原文逐句找，却找不到对应的意思。有时候它会写上段落编号，或者写出一句看起来像原文的话，核对之后发现并不是。

同一个问题多问一次，给出的答案明显变了，也很可疑。第一次问“这场活动为什么没有做第二期”，它给了一个原因。第二次再问，又换成另一个原因。材料里根本没写原因，每次回答都在重新补。

旧要求和新材料混在一起，也容易被忽略。前面说“写给 AI 初学者看”，后面聊了几句 token、context window、RAG。等它再动笔，开头突然变成技术文档的口吻，术语密度明显高了。

材料明显不足，它却不肯停下来。活动复盘里没有提到为什么没有第二期，但它仍然给出完整答案：“主要因为转化率不高，所以团队暂停了第二期。”这句话听起来像真实的业务判断，可材料里没有转化率，也没有暂停原因。更稳的回答应该是：“材料中没有说明为什么没有第二期，只能看到这次反馈里提到案例太少、练习时间不够。”

这里不讨论 AI 是否在说谎。只要回答顺畅到不像是从有限材料里得出的，就该回头看一眼。

看见信号以后，别急着让它重写。可以先问一句：它这一次到底看到了哪些材料？很多幻觉就在这里和上下文接上了。

三、为什么会产生幻觉

前面这些信号，表面上像回答不严谨，往深一点看，常常是上下文出了问题。幻觉不全来自上下文，模型训练、评估方式、产品设计、工具调用，都会影响结果。这篇文章只讲普通使用中和上下文紧密相关的那一类。

上下文里本来就没有那部分信息。问“预算是多少”，材料里没写预算。如果任务说明里没有要求它承认缺失，模型就可能根据活动规模补一个看起来差不多的数字。这不一定是故意编造，模型通常倾向于给出一个完整回答，哪怕材料并不完整。

上下文里信息太散，要求也会被冲淡。开头说“写给 AI 初学者”，中间连续讨论上下文窗口、RAG、token，最后让它写文章开头。模型收到的是一团混合内容：既有“通俗入门”的要求，也有后面反复出现的技术术语。最后写出来的东西，就可能偏向后面那些高频词。

上下文里出现彼此矛盾的信息，问题更明显。材料 A 写“下周二灰度上线”，材料 B 还保留旧说法“周五正式上线”。如果不说明以哪个版本为准，模型可能拼出一句“周五灰度、下周二正式上线”。这句话看起来两边都沾了一点，实际并不存在于任何一份材料里。

长对话里，早先的限制条件也不一定能稳定约束当前回答。十几轮前写过“不要编出处”，后面再让它补参考资料时，它仍可能给出看起来正式的书名、论文名或链接。这里不必理解成“AI 把之前说过的话全忘了”。更准确地说，当前回答生成时，早期那条限制在整体上下文中的约束力不够了。

所以，减少这类幻觉，单靠最后提醒一句“别胡说”不够。更稳的做法，是把上下文收紧：材料范围是什么，哪版材料优先，哪些话能当原文，哪些只能算推断，都要让它看得清楚。

四、如何减少幻觉

日常使用里，可以从几件小事做起。它们不复杂，目的也很一致：让 AI 少一点自由补全，多一点按材料回答。

材料范围要写在前面。尤其是长资料、会议纪要、复盘材料，别只说“帮我总结一下”，可以直接写：

只根据下面的材料回答。材料里没有的内容，请写“材料中没有”，不要补数字、原因、出处或结论。

回答最好分层。材料里直接写了什么，模型合理推了什么，还有哪些地方需要查证，不要混在一个段落里。可以这样要求：

请把回答分成三类：1. 原文直接写了什么2. 可以合理推断什么3. 还需要查证什么每一条后面标出对应的材料编号。没有材料编号的内容，不要放进“原文直接写了什么”。

这样看回答时，就能快速分清哪些是素材里本来就有的，哪些是模型自己的推断，哪些需要回头确认。

对话变长以后，任务说明要重新挂一次。聊到十几轮之后，最新几条消息对回答的影响会变重，早期限制容易被冲淡。可以把当前要求重新发一遍：

下面是当前任务说明，请以后面的内容为准：目标：写一篇面向 AI 初学者的公众号文章。主题：AI 为什么会产生幻觉，从上下文说起。固定小标题：（列出你锁定的小标题）限制：不编事实，不写具体模型排名，不使用某些特定词汇。输出：先给正文草稿，再列出哪些地方需要事实核查。

拿到回答以后，还可以让它回到原文。

请检查你上一轮回答。逐条标注依据来自哪段材料；找不到依据的内容，请移动到“需要核实”，不要继续写成事实。

这一步能省掉不少排查时间。语气过稳的判断、凭空多出来的数字、看似引用实则找不到出处的句子，往往会在这里露出来。

这些做法不会让幻觉消失，日常使用也很难做到零出错。它们能做的，是把没依据的句子拦得更早一点：材料范围写清楚，回答里哪些来自原文、哪些只是推断、哪些还要核实，最好别放在同一个段落里。

回到开头那种场景，不存在的出处、会议纪要里没有的判断，麻烦都在同一处：材料、推断和缺口被写进了一段顺滑文字里。读的人分不清哪句真在材料里，哪句只是模型补出来的，就很容易直接复制走。

以后再用 AI 处理材料，可以在复制之前多停半分钟，让它交代依据。原文里有的保留，推出来的标出来，找不到来源的放到核实区。多做几次，通顺的回答会变得可检查；没依据的句子，也不至于悄悄混进正式内容。

前面这些核实方法，平时处理短文段很有用；但资料一长、对话一久，上下文本身也会冒出新的问题。下一篇会讨论长资料和长对话里的上下文管理问题。