ARTICLE · 1247684
AI的“不知道”与AI的幻觉
AI的“不知道”与AI的幻觉摘要：本文尝试梳理了AI“不知道”的情形以及AI产生幻觉的情形，并探讨底层原因。 AI的“思考”原理与人类思考不同。它是基于海量人类已有的资料，不断预测下一个最合适的词，一个词接着一个词，拼接成一段通顺完整的回答。它并不“理解”文字背后的真实世界。 本文对AI“不知道”和AI幻觉，这二大类能力局限及底层机理，尝试性地作一个梳理与探讨。 一、AI“不知道”的若干情形 AI“不知道”的情形主要有两类。 第一类情形：AI本身固有的能力局限 1. 自指涉的逻辑局限 一个计算系统很难完整观测、测算自身的实时运行状态，想要完整检测本系统，需要另一套外部系统，层层递归，逻辑上存在天花板。举例，精确计算输出当前这一段文字，芯片一共执行了多少次逻辑运算，AI回答不了。 2. 训练素材的来源限制 AI没有独立感知世界的通道，全部知识都来自于人类资料。从没有被人类观测、记载的客观事实，AI没有任何途径去获取。举例，一颗尚未被人类发现的遥远行星所含有的矿产种类，AI不可能知道。 3. 长程复杂推理，AI容易出错 逐词预测的生成模式，面对步骤极多、链条很长的逻辑推演，很容易中途发生错误。虽然技术迭代可以持续改善这个问题，但这是当前架构与生俱来的弱点。举例，拥有上万步推导的复杂数学证明，AI很容易出错。 第二类情形：并非AI能力不足，而是由话术、问题本身或者外部规则造成 这一类情形，AI本身有能力生成相关文字，只是其他因素让它选择“无法回答”。 4. 模仿型的“不知道” 训练文献中，人类对于该议题普遍结论就是尚无定论。AI学到了这套表达方式。举例，人类未来能不能彻底治愈阿尔茨海默病。 5. 训练时间窗口的截断 训练数据集存在固定截止时间，之后发生的事件、发表的科研成果，离线模型是不知道的。接入联网工具就可以弥补这个缺陷。举例，训练截止时间之后才发布的物理实验结果。 6. 安全管控的人为限制 训练资料当中包含相关信息，但是外层安全规则禁止输出相关内容时，AI会拒绝回答。举例子，危险化学品的简易制备方法。 二、AI幻觉及底层机理 AI幻觉，是指AI自信地输出一段虚假的、瞎编的答案。 1、AI幻觉常见的发生情形 第一种，相关训练资料稀少、信息碎片化，模型只能拼凑零星片段，自行脑补大量细节。比如，编造冷门历史人物的生卒年份；虚构偏僻地方多年前发生的事件。 第二种，需要具体数字、论文、参考文献的场景。AI非常擅长伪造论文标题、作者、统计数据，格式看起来十分逼真，但都是虚构的。 第三种，超长链条的逻辑推理。推演过程中间任意一步出错，后续的全部推导跟着出错。复杂数学题、多层法律案例推演都很容易出现这类问题。 第四种，用户的提问本身条件残缺，缺少大量背景信息，模型会自动脑补它认为合理的背景设定，在此基础之上给出回答。 第五种，用户强行要求给出确定结论。如果反复催促AI给出明确答案，原本倾向于回复“无法确定”的情况，AI很可能编造一个确定的结果。 第六种，询问模型自身内部运行细节。模型不可能实时读取自己完整的运行状态，但少数情况下AI会依靠网络上通用大模型资料进行回答，出现不实描述。 第七种，知识点高度相似容易混淆。AI容易张冠李戴，把不同人物、事件的信息互相混合。 2、AI幻觉的底层机理 大量AI幻觉，是生成文字过程中一步一步逐步偏离造成的。模型每一步都会挑选适合接续的词语，一旦在某个节点，选择了一个存在偏差的词，那么后面所有文字生成，都要以这个错误的内容作为新的上下文，一步偏，步步偏，最终的结果完全脱离事实。 除此之外，还有一类直接脑补式幻觉，不需要漫长的累积偏移。 大模型原生的任务目标是补全通顺文本，而不是输出经核实的事实。在训练过程中，模型学到了海量的句式模板，它能够识别出句子当中某个位置理应填入特定类型的内容，例如年份、书名、人名。哪怕针对这个特定主体的真实资料缺失，在没有经过充分对齐训练的情况下，模型不会主动留白或者承认信息不足，而是直接挑选一个在语境、文体风格上最匹配的候选词填充进去。 模型挑选词语的依据，是文本统计层面的关联性，而不是客观事实的真伪。 克制脑补、主动说出“不知道”，是后天对齐训练教会模型的行为，并不是模型原生自带的能力。原生的生成逻辑，永远倾向于把句子完整地续写下去。 AI并不是主观故意撒谎。它的核心目标，是生成流畅自然、符合人类语言习惯的文本。文字的通顺度是它优先考量的，内容是否符合客观真相并不是它的判断标准。 结语 AI“不知道”分为两大类，一类是模型固有的短板，另一类只是外部条件带来的限制。 AI幻觉分为逐步跑偏和直接脑补两种形式。AI没有主观欺骗的意图，只是优先追求语言的流畅性。 AI是强大的工具，可以帮我们整理海量文献，提出新颖猜想。但AI输出的所有内容的真伪，最终都需要人类依靠实证或者严谨逻辑推理去核验。 （完） 2026年10月24日写于广州
