乐于分享
好东西不私藏

AI幻觉引用,开始反噬顶会论文了

AI幻觉引用,开始反噬顶会论文了

2026年1月,一篇投给ACL 2026的论文,在学术圈引起了震动。

这篇论文没有提出新算法,也没有刷榜SOTA。它做了一件极具破坏力的事情:对过去两年ACL系列会议(ACL/NAACL/EMNLP)的1.7万多篇论文进行了一次学术审计,揪出了近300篇包含虚假引用的论文。

更讽刺的是,刚刚结束的EMNLP 2025,正是这场幻觉引用的最大重灾区。主会每40篇论文就有1篇中招,比例高达2.6%。

AI生成的幻觉引用,已经开始反噬顶会论文了。

一、什么是幻觉引用

幻觉引用(HalluCitation)不是简单的引用错误,而是彻底的虚构。

一个典型的幻觉引用长这样:

Smith, J., Johnson, M., & Brown, K. (2024). Advanced techniques for neural language understanding. Anticipated for EMNLP 2024.
看起来很正常,格式也对,但问题在于:这篇论文根本不存在。

"Anticipated for"这个短语暴露了它的生成痕迹,这是大模型在编造引用时常用的措辞。作者Smith、Johnson、Brown可能是真实存在的研究者,但他们从未写过这篇论文。

还有更隐蔽的。有些幻觉引用会编造一个看起来很像真的arXiv ID,比如arXiv:2401.12345,格式完全正确,但你去arXiv上查,什么都没有。

这不是学术不端,而是AI的创作。

大模型在生成引用时,会根据上下文合理地编故事。如果你让它生成一段关于神经语言理解的相关工作,它会编造几篇听起来很专业的论文,作者名、标题、年份都很像真的,但现实世界中根本不存在。

而作者往往在赶deadline,看着格式对、语境通,就直接用了。

二、重灾区:EMNLP 2025

《HalluCitation Matters》这篇论文的作者团队来自日本奈良先端科学技术大学院大学(NAIST),他们构建了一个完整的自动化检测流程:

  1. 用正则表达式提取引用
  2. 调用Semantic Scholar和DBLP接口验证
  3. 对疑似样本进行1350次人工核查

结果令人震惊。

按时间线看:2024年初,幻觉引用还是偶发现象。但进入2025年,尤其是下半年,数量激增。这和大模型辅助写作工具在学术圈的普及时间线高度重合。

按会议看:EMNLP 2025是重灾区。

会议
主会幻觉率
Findings幻觉率
EMNLP 2025
2.60%
0.82%
NAACL 2024
0.18%
0.00%
ACL 2024
0.13%
0.17%

EMNLP 2025主会的幻觉率是其他会议的10倍以上。更讽刺的是,主会的幻觉率(2.60%)竟然是Findings(0.82%)的三倍。

这说明什么?

即使经过三位审稿人、一位领域主席(AC)层层把关,最终被录用的高质量论文,每40篇里仍有1篇连参考文献都是瞎编的。

审稿机制,在面对AI生成的似是而非的内容时,已经显露出了系统性的失效。

三、谁在制造幻觉引用

NAIST团队对这300篇涉事论文的标题进行了词频分析,生成的词云图充满了黑色幽默。

出现频率最高的词:大语言模型(Large Language Models)、推理(Reasoning)、多模态(Multimodal)。

那些高谈阔论推理、大模型、多模态的论文,自己却连最基本的事实核查都没做,连参考文献是否存在都没检查。

这反映出一种典型的投机心态。在热点赛道极度内卷的背景下,大量研究者使用AI工具进行快速甚至全自动的写作。当作者自己都不读自己的参考文献时,幻觉就堂而皇之地进入了正文。

更有意思的是,作者发现,包含幻觉引用的论文,审稿得分普遍偏低。

也就是说,即使审稿人没有直接抓出假引用,他们潜意识里也能感知到这些文章质量平庸。但即便如此,依然有大量此类论文通过了EMNLP的门槛。

这本身就是对会议接收门槛的一种拷问。

四、年度最勇投稿:实名挂人

这篇论文最具杀伤力的地方,不是数据本身,而是它展示数据的方式。

在附录B中,作者直接列出了300篇涉事论文的ID、标题以及具体的幻觉引用内容。

尽管作者在文中表示无意针对个人,但这种高透明度的列表,使得任何人都可以在几秒钟内检索到具体的论文和作者。

更有意思的是论文的参考文献列表。作者把这300篇涉事论文全部列入了参考文献。

这意味着什么?

学术圈通用的引用提醒机制会发挥作用。当涉事作者收到系统发来的新引用通知时,他们将直接看到自己的论文出现在这篇探讨幻觉引用的研究中。

这不是简单的打假,这是一次学术圈的贴脸开大。

而且,这篇论文本身就是投给ACL 2026的。

现在,压力给到了ACL 2026的组委会和审稿人这边。如果拒收这篇论文,理由会是什么?攻击性太强?不符合会议主题?任何拒稿理由在这一长串实锤的数据面前,都可能被解读为掩耳盗铃。

但如果接收,就等于官方承认了EMNLP 2025作为"重灾区"的事实,承认了同行评审机制在过去两年的巨大漏洞。

无论结果如何,NAIST团队的这波操作已经赢了。

它迫使每一个正在写论文或准备投稿的研究者,不得不重新打开自己的.bib文件,逐行检查那些曾经看都不看就复制粘贴的引用。

五、不只是主观造假

作者也展现了严谨的一面。他们发现,并非所有幻觉引用都是作者用ChatGPT瞎编的。

有些是Google Scholar自身被污染了。

Google Scholar会收录一些预印本、会议摘要、甚至学生作业,这些内容本身就可能包含错误信息或虚构引用。当研究者使用Google Scholar的"一键引用"功能时,无意中就引入了错误。

还有一些是BibTeX管理工具(如Zotero、Mendeley)的问题。这些工具在抓取元数据时,可能会因为网页解析错误、数据库不一致等原因,生成错误的引用信息。

作者把这些情况归类为非主观幻觉引用,并在论文中进行了细致的分析:

错误类型
占比
作者错误
34%
标题错误
28%
年份错误
19%
完全虚构
19%

这种客观的分析为论文增加了一层厚度。

它不仅是在指责造假者,更是在指出整个学术基础设施(从写作工具到索引数据库)在AI时代的脆弱性。

六、给AI时代的学术圈

AI生成的幻觉引用,已经不是个别现象,而是系统性问题。

根源不是"学术不端",而是"赶deadline + 用AI + 没核实"。

这个流程太常见了:

  1. 赶deadline
  2. 让ChatGPT/Claude补Related Work
  3. 让AI生成BibTeX
  4. 看着格式对、语境通,直接用了
  5. 提交

问题在于,BibTeX文件往往是最后才整理、最少被人工逐条点开的部分。于是这些"定时炸弹",就被直接提交、永久存档。

而AI,一旦抽风,就会合理地编故事。

更深层的问题是,当AI能帮我们生成一切的时候,真实性正在成为学术界最昂贵、也最稀缺的硬通货。

审稿机制在面对AI生成的似是而非的内容时,已经显露出了系统性的失效。审稿人默认参考文献是真实的,他们不会逐条点开每个链接、检查每个DOI。

那怎么办?

如果BibTeX只有十几条,也许还能手动逐条检查。但现实往往是:50条、100条、甚至几百条,混着AI生成和Zotero导出,年份、作者、标题稍微一偏就很难察觉。

这类工作,本质上是机械校验,非常适合交给工具做第一轮筛查。

最近我看到有人在用WisPaper的True-Cite功能(https://wispaper.ai/agents/true-cite),这是一个专门用来校验BibTeX引用真实性的工具。

它的逻辑很简单:

  1. 上传.bib文件
  2. 系统自动解析每条引用
  3. 与真实数据库(Semantic Scholar、DBLP等)逐条匹配
    • 标题
    • 作者
    • 年份
    • DOI
    • 会议/期刊信息
  4. 给出检测结果:
    • 绿色:完全匹配,安全
    • 黄色:部分匹配(需人工确认)
    • 红色:无对应论文,高度疑似幻觉引用

整个过程不需要代码,几分钟就能跑完一份中等规模的Bib。

一个建议的自查流程

  1. 从Zotero/Overleaf导出.bib文件
  2. 备份原文件
  3. 用工具跑一次引用校验
  4. 对红/黄项(可疑项)逐条确认、替换
  5. 修完再跑一次,直到全绿

这一步不会提升论文质量,但能显著降低学术风险。

AI写作已经是现实,不用AI并不是解决方案。

真正重要的是,你是否在关键节点做了必要的校验。

在AI时代,主动检查引用,不是心虚,而是专业。


参考文献

Takashi Kodama, Naoya Yamaguchi, Mamoru Komachi. (2026). HalluCitation Matters: Revealing the Impact of Hallucinated References with 300 Hallucinated Papers in ACL Conferences. arXiv preprint arXiv:2601.18724.

说明

本文讨论的问题不仅限于NLP领域。任何使用AI辅助写作的学科,都可能面临类似风险。如果你的文献管理中有哪怕一条是AI生成的,建议现在就核查。