夜雨聆风学习资料网

ARTICLE · 1035074

AI检索结果“误信”?2025年保守估计文献幻觉近15万条,安徽财大脚注六个假案号只是冰山一角!

AI检索结果“误信”?2025年保守估计文献幻觉近15万条,安徽财大脚注六个假案号只是冰山一角!

2025年第9期,《南方金融》刊发了一篇论文,题为《数据资产出资的风险类型及制度因应》。第一作者蒋某某是安徽财经大学法学院教师,第二作者万某某是该院硕士研究生。

论文里引用了多份民事判决书作为案例支撑,注释中的案号依次是1234、3456、4567、5678、6789、7890。

你没看错。判决书案号就是一串连续递增的数字。这条线索被网友发现后,论文迅速引发舆论关注。

2026年9月2日,安徽财经大学发布情况通报。学校成立由5名校内外专家组成的调查组,认定该论文存在学术不规范问题,部分案例相关问题系作者对AI检索结果的误信,对AI生成的内容缺乏应有的警惕性与严谨性,存在AI使用不当行为。

处理结果是:科研诚信诫勉谈话、通报批评,暂停各类评先评优、职务晋升、科研成果奖申报资格两年,2026年9月1日至2028年8月31日。

通报用了一个关键词:误信。

这两个字很值得玩味。不是说作者主动造假,是说他们信了AI给的东西,没去核实。一篇署名的学术论文,注释里的判决书案号是AI编的,作者从头到尾没查过。

澎湃新闻的评论说得很到位:AI工具无法成为责任主体,论文既然由作者署名,其中事实是否真实、引文是否准确、材料是否可靠,都必须由作者亲自认真核验。直接将案例引用工作外包给AI,这种做法显然越过了正常使用AI辅助研究的边界。

PART 01
六个假案号,炸出一场AI幻觉事故

如果只是安徽财大这一篇论文出了问题,那还只是个案。但数据告诉我们,事情远不止于此。

2026年5月,一项研究对arXiv、bioRxiv、SSRN和PubMed Central四大开放获取平台中250万篇论文所含的1.11亿条参考文献进行了系统性核查。结果发现,在大语言模型被广泛采用后,虚构引文数量急剧上升。保守估计,2025年一年内即出现146932条幻觉引文,接近15万条。这些幻觉引文主要分布在AI技术采纳速度较快的学科领域、有明显AI辅助写作痕迹的文本,以及作者团队规模较小的群体中。

另一项发表在《美国科学院院刊》的研究则针对生物医学领域,筛查了250万篇论文中的1.2亿条参考文献,发现4046条虚假引用,分布在2810篇论文中。其中综述类文章的虚假引用比例高于研究类论文。

再看比例。一项实验研究显示,GPT-4o在模拟文献综述中生成的引用,19.9%完全捏造,68%的链接是错误的,31%的引用是伪造的。

还有一个更极端的数字:有研究对ChatGPT-3生成的医学研究提案进行核查,59条参考文献中,69%是伪造的。35条ChatGPT引用里,只有2条是真实的

这些数字放在一起,指向一个事实:AI生成虚假文献已经不是个别案例,而是系统性的学术生态问题。

PART 02
15万条幻觉引文正在涌入学术记录

2025年12月,香港大学一篇题为Forty Years of Fertility Transition in Hong Kong的论文被Springer Nature旗下期刊撤稿,原因是部分引用文献系AI虚构生成。通讯作者叶兆辉教授因此卸任社会科学学院副院长及研究事务相关职务。

2026年7月,《美国科学院院刊》撤回了以色列阿里尔大学和特拉维夫大学合作的一篇评论文章。作者承认使用Microsoft Copilot将PubMed ID自动转换为格式化参考文献,但提交前未核实。文中列出的十几篇参考文献,大部分无法在公开数据库中检索到。

同样是7月,知网发布声明,宣布不接受AI工具被列为论文署名作者,对已有的AI署名论文全部下架处理。知网的理由很直接:AI不具备民事主体资格,无法承担署名对应的学术责任,无法回应质疑、承担撤稿后果。

2026年初,NeurIPS 2025检出53篇已接收论文含AI编造引用。虚假引用已经大规模侵入顶级学术会议。

从期刊撤稿,到副院长卸任,到会议论文被检出,再到数据库下架。这条链上的每一环,都在为误信AI买单。

PART 03
AI幻觉太过容易让人误判

安徽财大的通报用了误信这个词。但如果只把问题归结为作者太轻信,就太简单了。

真正的问题是,AI生成的内容,看起来太像真的了。

一位评论者指出,传统的学术研究,研究者查找一篇文献或一组数据,必须接触原始资料,在检索、阅读和比对中确认其是否可以作为论据。如今,AI可以直接生成一个格式完整、措辞专业、看起来颇为可信的答案。一个不存在的案号、一篇虚构的文献,只要看起来像那么回事,就可能让人放松警惕,最终堂而皇之地被写入论文。

这才是AI幻觉真正的杀伤力所在。它不是错得很明显,而是错得很专业。一个格式完整的参考文献列表,作者、标题、期刊、卷号、页码一应俱全,DOI编号长得像模像样。你扫一眼,觉得没问题,就放进去了。

但它不存在。

学术研究能够获得社会信任,依赖的不是文字形式看起来是否专业,而是其中使用的事实、材料和证据经得起追溯和验证。如果研究者开始把AI输出当成事实来源,问题就不只是偶尔出现几处错误注释,而是研究方式发生了本质性的偏移。

一位学者说得更直白:问题不在模型本身,而在数据源可控。把经过审核的专业文献和自有数据喂给AI,而非任其在开放网络中抓取,可能才是出路。

PART 04
第一责任始终落实到人

高校和学术机构已经在行动。

中国科学院发布的诚信提醒明确要求:在文献检索、资料整理时,可借助人工智能技术跟踪研究动态,收集整理参考文献,并对人工智能生成信息的真实性、准确性、可靠性进行辨识。

南京大学的指导意见规定,文献检索、资料整理等阶段可借助生成式人工智能工具搜集信息,但须对生成信息的真实性、准确性、可靠性进行辨识,不得直接抄袭搬运生成内容来替代自主研究。

中国学位与研究生教育学会发布的指南强调,学位申请人是人工智能工具使用的第一责任人,核心论点和创新贡献必须由申请人自主提出并完成。

青岛科技大学、江苏大学等多所高校也已明确,严禁使用AI工具生成论文核心观点、研究方法、研究结论等关键内容。

规则在收紧,边界在清晰。但所有规则指向同一个核心:AI可以帮你检索,可以帮你整理,但核实这件事,只能你自己来。

北京大学副校长初晓波:人类使用AI辅助论文写作,绝非让渡主体性,而是探索全新科研分工——让AI处理数据的广度,让人类守住思想的深度与价值的温度。


既然核实这件事只能人来负责,那有没有工具能帮人把核实做得更快、更准?

有。比如利器文献校对系统,就是专门针对这个痛点做的。它不代替人做判断,而是把重复性的核验工作接过去,让人把精力放在真正的学术研判上。

点击使用:

www.hnlqrj.com

几个最核心的功能,恰好对应前面说的那些坑。

AI文献真伪校验。系统会拿参考文献去比对知网、Web of Science、Crossref等权威数据库,自动核验每一条文献是否真实存在、信息是否准确,把AI伪造或无效的条目直接标记出来。安徽财大那六个假案号,如果投稿前过了这一遍,大概率不会出现在正式刊发的论文里。

引文一致性校验。系统自动扫描正文标注和文末文献条目,核对序号连续性、作者年份对应关系,把对不上的地方生成疑点报告。那些正文引了、文末没有,或者文末列了、正文没引的错位,不用人工逐条翻。

参考文献校对。支持GB/T 7714-2025等格式,自动统一中英文大小写、标点符号、卷期页码,一键解决格式错乱和信息缺漏。

利器文献校对系统是纯网页端使用,不用装软件,支持批量上传,20篇文档可以同时处理。对于期刊编辑部和经常写论文的高校师生来说,能省下大量耗在机械核对上的时间。

技术不能替人负责,但可以让人把责任负得更轻松一点。

学术进修课堂是一家专业为高校老师、学生及科研学者提升学术能力的平台。我们始终秉承“聚焦学术提升,赋能科研成长”的创立初心,致力于为全国高校师生及科研工作者打造一个专业化、体系化、高效化的学术辅导平台。

学术服务 | Academic Services

我们汇聚核刊编审、外审专家、SSCI 审稿人、双一流博导等一线权威师资,提供从论文到课题的全链条学术辅导。无论是核心期刊SSCI发表、国家级省部级课题申报,还是学位论文写作,都有专家一对一精准指导。

学术工具 | Academic Tools

我们自主研发了一系列免费学术工具,供广大学友使用,并在使用过程中不断革新,推陈出新,保持数据更新。工具上线以来深受高校师生与科研工作者认可,是你论文写作与课题研究的得力助手。

我们的承诺 | What We Stand For

名师定制・隐私保障・全程护航

做放心靠谱的学术辅导

辅导咨询

更多学术讲座、学术辅导、论文干货、写作技巧
敬请关注“学术进修课堂”公众号
设个星标

相关学习资料