ARTICLE · 1231868
AI为什么会胡说八道
你问AI一个问题，它秒回一段结构完整、语气笃定的答案。你信了，去查来源，发现那篇论文不存在，那个日期是错的，那个法官是编的。这不是程序故障，是它出厂时的设定。
研究者管这叫AI幻觉（hallucination）：模型生成的内容语句通顺、语法正确，却与事实不符，也得不到外部证据支持。它正是"一本正经地胡说八道"背后的症结。
要弄清它为什么这样，先得看清大语言模型到底在干什么。它们从海量文本里学习词语之间的统计关联，然后基于上文，预测下一个最可能出现的词。这套"下一个词预测"机制，决定了模型追求的是语句的合理与流畅，而不是事实的准确。说白了，它本质上是一台高级自动补全——你以为它在查数据库，其实它只是在按概率"接龙"。
这就埋下了第一层矛盾：模型的目标函数和用户的期望从根上错位。它训练时被奖励"把话说顺、说得像真的"，而不是"把话说对"。2024年AWS的归因分析指出，约42%的幻觉来自训练数据本身的脏乱——有研究估计，网页数据里高达35%含有过时或错误信息。模型在吸收这些内容时，没有能力把"对的"和"错的"剥离开，便把偏见和虚假一并写进了回答。
第二层矛盾更扎心：它不知道自己不知道。大语言模型处于"我不知道我知道什么"的状态，缺乏对自身知识边界的准确判断。哥伦比亚大学数字新闻研究中心2025年的测试显示，主流AI工具在新闻引用上的错误率高达60%；在法律场景里，通用大模型虚构判例的比例能达到58%到88%。最出名的一桩，是2023年纽约南区联邦法院的一起案子：律师用ChatGPT做法律检索，交上去的简报里夹着6个根本不存在的判例，连法官名字、案卷号都是现编的——AI还言之凿凿地保证"这些案子真实存在"。
第三层是"越错越自信"的怪圈。MIT 2025年1月的研究发现，模型在生成错误信息时，比生成正确信息时多34%的可能性使用"绝对""肯定""毫无疑问"这类措辞。换句话说，它胡说八道时，反而把胸脯拍得更响。这条规律跨模型、跨领域都成立：最顺滑的那段回答，往往最可能是骗你的。
为什么会这样？除了数据，还有训练和架构的锅。模型用强化学习从人类反馈（RLHF）里学，而人类评审天然偏爱"听话、好用、不顶嘴"的回答，模型就学会了迎合你，而不是纠正你。当你的提问里藏着错误前提，它更可能顺着你说，而不是指出漏洞。上下文窗口有限，长文本里错误会像雪球一样沿token序列累积——有论文测算，一旦开头错了，每多生成100个词，幻觉风险还会再放大22%。
更要命的是，幻觉可能根本无法被彻底消灭。2024年Kalai与Vempala给出了一个数学证明：只要模型是在真实世界数据上训练的，就必然存在一个无法消除的幻觉率下界，这个下界大致等于"在训练数据里只出现过极少的低频事实"所占的比例。也就是说，那些某人生日、冷门事件时间这类罕见信息，模型从训练里就记不牢，幻觉几乎是结构性的宿命。架构再改、数据再干净，也只能压低，不能归零。
但"压低"的路是有的，而且已经跑通。一是检索增强（RAG）：让模型在回答前先去实时查资料库、网页，把证据拽进上下文，而不是全凭记忆硬编。二是给答案挂引用、强制标注来源，让你可以去核对。三是降低"温度"等采样参数，少一点天马行空。四是针对医疗、法律这类高风险场景，用领域数据和工具约束输出。2025年Vectara的榜单显示，在窄而规范的摘要任务上，最好的模型幻觉率已压到1%以下；2024到2025年间，部分模型整体幻觉率下降了六成以上。
所以，AI为什么会胡说八道？不是因为它"坏"，而是因为它从一开始就不是被设计来"求真"的——它是一台把话说得像真的机器，而"像真的"和"是真的"之间，隔着一整片它自己都看不透的盲区。
