摘要：当前主流AI大模型在“文章事实核查”任务上存在系统性短板：检索增强生成（RAG）能引入外部资料，却不是事实过滤器；检索噪声、冲突证据、模型“流畅优先”的生成目标，以及核查能力未被有效调用，都会让AI漏掉甚至跟着复述错误。数据源有错时，AI高风险地“跟着错”，但并非每次都错；它可能照搬、放大、合理化错误，偶尔也可能碰巧纠偏，但这种纠偏不可靠、不可重复。若创作者删除错误内容并重新发布正确版本，AI“改口”的时间取决于路径：实时联网检索通常在天到周级别，模型预训练知识则可能月到年级别，且还受缓存、索引、产品策略和AI是否触发联网等因素影响。结论是：AI可作辅助筛查工具，但不能当独立质检员。

引言

一个越来越常见的困惑是：AI大模型明明能联网、能检索、能读文章，为什么还是查不出文章里的错误？更现实的问题是：如果数据源本身有错，AI检索到之后会不会跟着错？如果创作者发现错误、删除旧内容并重新发布正确版本，AI又要多久才能“学到”正确信息？

这些问题看似分散，实则指向同一条链条：数据源—检索—上下文—生成—输出。AI不是站在事实之外的中立裁判，它更像一个高度依赖上游材料、又倾向于生成流畅文本的加工厂。上游“上梁”不正，下游“下梁”大概率会歪；但AI并非被动木结构，它可能照歪、放大歪，偶尔也可能碰巧扶正一下——只是这种纠偏不能当作可靠机制。

一、AI不是事实过滤器：检索增强也有盲区

检索增强生成常被视为对抗幻觉的方案，但它的检索环节本身充满噪声。检索结果可能不相关、质量低下，甚至增加错误评估的概率；可信度评分和过滤机制并不精确，过度过滤还可能移除关键的反面证据。面对相互矛盾的证据，模型判断极其脆弱：在证据完全冲突的场景下，模型判断的“翻转率”在FEVER数据集上超过60%，在SciFact上超过90%。模型往往还会错误地赋予低可信度来源过高权重。

更关键的是“流畅优先”悖论：即便正确信息就在检索结果里，模型仍可能稳定输出错误，陷入“语义连贯、结构完整但事实失真”的局部最优状态。模型被训练得“听起来科学、详细”，即使缺乏真实内容支撑。于是就会出现“明明能查到正确信息，却仍自信地输出错误”的现象。

模型内在机制也有问题。模型在单独评估方法论时，识别伪造统计数据的正确率可达0.76—1.00，但在多源信息合成过程中，并不会调用这项核查能力。对已撤稿论文，开源模型在超过80%的情况下仍判定其“未被撤稿”，除非被明确要求联网核查。撤稿标记在文献中往往不明显、不易关联，模型很难主动发现。

实证数据同样不乐观。专门评估AI核查学术论文能力的SPOT基准包含83篇论文和91处严重到需勘误或撤稿的错误，结果显示：没有任何模型的召回率超过21.1%，精确率最高仅6.1%，多数模型接近零；模型置信度普遍偏低，且在8次独立运行中很少能重复发现同一个错误。就连最容易核查的引用错误，AI生成引用中的幻觉率也从14.23%到94.93%不等。

二、错误传导链：上梁不正，下梁大概率歪

“上梁不正下梁歪”这个比喻大体贴切，但严格说不是“必然传导”，而是“高风险传导”。准确链条是：

数据源有错 → 被检索到 → 错误进入模型上下文 → 模型可能复述、放大“合理化”这个错误 → 输出跟着错。

错误内容更容易被AI跟着错，通常满足几个条件：来源单一，没有相反证据；格式看起来权威，比如论文、报告、百科式表述；错误和上下文语义连贯，模型更倾向“顺畅整合”而不是质疑；模型自身没有足够强的领域知识去反驳；多个来源互相矛盾时，模型对冲突证据判断脆弱，可能给低可信来源过高权重。

但反例也存在：有时模型内部知识或另一个检索结果会纠正它，有时它会发现明显矛盾。不过这种纠正不可靠、不可重复，不能当作事实核查机制。尤其对于深层错误——方法论缺陷、统计伪造、撤稿论文、引用错配、逻辑漏洞——AI即使检索到相关材料，也常常查不出来。它更擅长发现表面不一致，不擅长判断“这个结论到底站不站得住”。

所以更准确的理解是：上梁不正，下梁大概率歪；但AI不是被动木结构，它是个不靠谱的“加工厂”，可能照歪、可能放大歪，偶尔也可能碰巧扶正一下。不能把AI当独立质检员。

三、修正数据源后，AI多久才能“改口”？

删除旧错误内容、重新发布正确内容后，AI多久能“学到”正确信息，没有一个统一时间表。关键取决于AI是通过实时联网检索获取信息，还是依赖预训练时“刻”在脑子里的内部知识。

路径一：实时检索（RAG/联网搜索）——天到周级别。

 如果AI回答时触发联网搜索，它看到的是搜索引擎或检索系统当下的索引，更新相对快，但仍有延迟。搜索引擎发现新URL平均约20小时，但重新抓取已知页面并更新索引，典型周期是30天甚至更久；Bing清除旧缓存可能需要48小时以上，完整从索引中移除甚至需7到14天。AI产品的检索缓存差异巨大：Perplexity的检索缓存更新可能只需分钟到小时；ChatGPT搜索是数小时到数天；Gemini可能需要数天到数周。一项2026年的基准测试显示，一个新页面被AI引用的中位数时间约为13天。综合看，实时检索路径下更新快则几小时到几天，慢则数周。

路径二：模型内部知识（预训练）——月到年级别。

新内容无法自动进入模型的内置知识库，必须等待下一次完整重新训练。这个周期通常意味着6到12个月甚至更久。模型的“知识截止日期”就是直接体现。

此外还有几个现实因素：AI“用不用”检索是概率性的，即使内容已更新，AI也可能选择不联网而凭旧记忆回答；有研究发现ChatGPT公开版本仅约7.6%的提示会触发网络搜索。旧内容还可能以“幽灵”形式残留：网站源文件已删除，但CDN或缓存层仍向爬虫提供旧内容，迷惑搜索引擎。新页面能否被快速检索，也取决于它在AI检索系统中的“信誉”，被AI信任的来源更新可能被更快捕捉。

四、实践启示：AI可辅助，不能独立质检

综合来看，AI查不出文章错误，是检索噪声、“流畅优先”的训练目标、核查能力未被有效整合，以及对学术元信息不敏感共同作用的结果。数据源有错时，AI确实很可能跟着错；RAG降低了一部分幻觉，但不能保证事实正确。

因此，使用AI查文章错误时，应坚持几条原则：多源交叉验证；要求AI标注原文证据；人工回查原始来源；对深层逻辑、方法论和统计问题保持人类判断；对已修正内容，接受一段时间的检索混乱和不确定性，不要期待AI立刻“改口”。AI适合做初步筛查，用于发现可疑引用或明显的表面不一致，但最终判断仍必须依赖具备领域知识的人类。

结语

“上梁不正下梁歪”道出了AI事实核查的核心困境：上游数据源有错，下游生成大概率跟着错。但AI不是一个被动的木结构，而是一个不靠谱的加工厂——它可能照搬错误、放大错误、把错误合理化，偶尔也可能碰巧纠偏，但这种纠偏不可依赖。检索增强不是事实过滤器，模型预训练更不是即时更新的知识库。创作者修正数据源后，AI“改口”的时间快则天到周，慢则月到年，还受缓存、索引、产品策略和是否触发联网影响。最稳妥的结论是：AI可以当辅助筛查工具，但不能当独立质检员；事实核查的最后一道防线，仍然是人。