夜雨聆风学习资料网

ARTICLE · 1304022

AI写完AI审?六本期刊暂停收稿,论文越来越多,谁来把关?

AI写完AI审?六本期刊暂停收稿,论文越来越多,谁来把关?

如果一篇论文由AI协助甚至是主导写完,由AI再来审查,最后编辑根据审查意见决定要不要发表,那么,这套流程究竟能在多大程度上保证论文的质量?

问题听起来有些夸张,但学术界已经开始面对了。

近日,法国数学会官网刊载了一份联合声明。五本概率论与统计学期刊宣布暂时停止接收新投稿,另一本期刊则暂缓处理同期收到的新稿件。声明提到,投稿量的快速增长已经给编辑团队和整个审稿体系带来很大压力,AI的快速发展也正在改变科学出版,迫使期刊重新考虑现有的编辑政策和工具。这次的调整也不是永久停刊,是为了给编辑部留出时间,调整相关政策。

图源:法国数学会官网

而在10月初的时候,OpenAI在GitHub上一次性公开了722篇由内部模型生成的数学手稿。OpenAI将这些材料定位为原始研究成果,其中部分结果尚未完成形式化验证。随后,人类数学协会发表声明,呼吁数学家停止跟OpenAI合作。菲尔兹奖得主陶哲轩转载了这份声明,争议由此进一步进入公众视野。

图源:OpenAI

一边是期刊收到了太多稿件,另一边是AI公司一次性公开了大量数学研究成果。但它们碰到的是同一个难题:研究成果产生得越来越快,判断这些成果是否值得发表,却没有变得同样容易。

目录

1. 论文越来越多,审稿人忙不过来了

2. 论文AI写完,AI来审,问题在哪

3. 论文写出来了,研究就完成了吗

PART.01
论文越来越多,审稿人忙不过来了
先不讨论AI能不能做出真正有价值的研究,单看投稿这件事,就有一个很现实的问题。
一篇论文可以在几天内完成初稿,但审稿人可能需要花上几天甚至更久,才能判断它的方法有没有问题,论证是否成立,结论是否可靠。
如果投稿量突然增加,吃紧的不是服务器,而是那些有能力判断论文质量的人。
AI确实让不少研究环节变快了,效率的提升,也让论文的产出更容易,投稿也是如此。
而对审稿来说,每一份稿件都需要经过筛选,而进入正式评审的论文,还要占用相应领域专家的时间。
Nature在最近的报道里也有提到,arXiv在9月接收了约4万份预印本,高于前几个月每月约3万份的水平。arXiv也开始进行限制:每位提交者每月最多提交两篇新稿件。
图源:Nature
ICLR等学术会议也开始调整投稿规则,试图控制投稿规模,减少低质量稿件对评审资源的消耗。
虽说不能把新增的投稿都算在AI头上。可是,写出一篇论文能变快,认真审完一篇论文却很难按同样的速度。
法国几本期刊暂停或者延缓接收新稿件,正是这个压力的一种表现。于是,AI也开始进入审稿环节。
图源:Nature
PART.02
论文AI写完,AI来审,问题在哪
为了让审稿更有效率,现在AI也已经可以帮助审稿人总结论文内容,检查论证,寻找潜在错误,甚至生成一份结构完整的评审意见。
只是,AI能够生成一份像样的评审意见,不代表它能判断清楚这篇论文的价值。
假设研究者用AI协助他完成了一篇论文,AI帮他整理了文献,编写了代码,分析了数据,还把结果组织成了看起来相当完整的论证。审稿人也用AI检查这篇论文,模型指出几个表达问题,补充了一些参考文献,认为主要结论基本合理。
那么,这篇论文是不是就算通过了一次有效的质量检查。
未必。因为审稿重要的工作,不是检查论文有没有明显错误,而是判断那些不容易发现的错误是否存在。

研究者用AI,是因为它能帮助自己完成原本需要大量时间的工作。审稿人使用AI,也是为了更快地完成审稿。但如果两边都没有能力充分核验AI生成的内容,那么节省下来的时间,究竟是效率提升,还是把原本需要完成的检查省略了?审稿意见的一致,是意味着结论更可靠?还是说双方可能犯了相似的错误?

AI 可以帮助检查代码,但代码能够运行,不代表研究设计合理。模型能够复述统计结果,也不代表数据足以支持作者的结论。

换句话说,论文的写作,审查和验证,它是三个不同的环节。

当AI同时参与论文生产和质量检查时,原本由同行评审承担的判断工作,有多少得到了有效完成,又有多少被自动化流程掩盖了?

图源:网络
PART.03
论文写出来了,研究就完成了吗
法国数学会在发布暂停收稿的第二天,又发布了另一份声明。
这次的声明针对的恰好是OpenAI一次性公开722篇数学手稿一事。法国数学会提出的担忧,不只是这些证明是否正确,还包括作者身份、成果归属和学术伦理等问题。
图源:法国数学会官网
更值得讨论的是,一个结果正确的内容,就意味着它是一项有价值的研究吗?
关键不在于是谁写出了证明,而在于这项成果究竟增加了什么知识。
当AI能够快速生成大量结果的时候,正确性或许可以通过工具验证,但研究的原创性和意义,依然需要更深入的判断。
科研本来就不是把论文写出来,发表出去这么简单。论文是研究成果的呈现方式,而不是研究价值本身。AI让论文生产变得更快之后,这两者之间的区别,反而更让人深思。
图源:网络

END

#论文投稿#AI科研#

撰稿:学术君
责编:科研树懒
版权声明:文章分享只为学术交流,如有侵删。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料