乐于分享
好东西不私藏

AI 论文灌水成本太低,arXiv 只能把惩罚拉高

AI 论文灌水成本太低,arXiv 只能把惩罚拉高

AI 让灌水论文变便宜之后,科研平台只能把惩罚变贵。

arXiv 被媒体报道要对明显由 AI 生成、包含幻觉和低质内容的投稿采取更严厉处罚,严重情况下提交者可能被禁投一年。这里要先说清楚:这不是“用了 AI 写论文就要被封”。真正被盯上的,是那种把大模型胡编的内容直接塞进论文库、连基本核查都不做的 AI slop。

这件事看起来是学术圈内部规则,其实和所有看 AI 新闻的人都有关系。

今天很多 AI 进展,都是从预印本开始传播的。一个模型、一套方法、一个 benchmark,先上 arXiv,再被 Twitter、媒体、公众号、投资人和创业者层层转发。预印本不是正式同行评审,但它已经承担了很重的“行业信息入口”功能。

入口一旦被垃圾内容污染,所有人都会付成本。

研究者要多花时间筛掉幻觉论文,审稿人和维护者要处理更多低质投稿,媒体可能误报,普通读者也更难判断“这个突破是不是真的”。AI 本来是降低写作和整理成本的工具,但如果没有责任约束,它也会把污染成本外包给整个社区。

这就是 arXiv 这类平台最难的地方。

它不能简单禁止 AI。现实一点说,很多研究者已经在用 AI 改语言、整理公式、写代码注释、检查表达。合理使用工具不是问题。问题在于,有些人把生成结果当成研究本身,把模型幻觉当成引用,把看起来像论文的东西当成论文。

以前灌水也有成本。你要凑文字、画图、编排格式,至少还要花时间。现在大模型把“看起来像那么回事”的成本打下来了,平台就必须重新设计惩罚。

一年禁投的意义,不只是惩罚某个作者,而是把滥用成本抬回去。

这和内容平台治理很像。短视频平台怕搬运号,电商平台怕虚假评价,代码平台怕垃圾包。AI 时代,科研平台怕的是“像论文的垃圾”。它最危险的地方不在于一眼假,而在于足够像真东西,会消耗认真读者的注意力。

我觉得这事对 AI 行业还有一个提醒:以后“能生成”会越来越不值钱,“能负责”才值钱。

一篇论文如果用了 AI,真正关键不是你有没有让模型帮忙,而是你能不能为里面的事实、数据、引用、实验负责。工具可以参与写作,但责任不能甩给工具。你不能说“这是 ChatGPT 写的,所以引用错了不怪我”。

科研信用靠的就是可追溯和可审核。

如果一个平台上充满无法追溯的幻觉内容,那它的价值会被稀释。大家会开始默认怀疑每篇预印本,真正有价值的工作也会被拖下水。对 arXiv 来说,治理不是洁癖,而是自保。

当然,执行会很难。

怎么判断一篇论文是“AI 辅助”还是“AI 代写”?怎么避免误伤英文不好的作者?怎么处理灰色地带?这些都不是一个封禁规则就能自动解决的。平台需要透明标准,也需要申诉机制。

但方向我觉得没问题。

AI 把内容生产成本降下来了,平台就必须把信任成本重新算进去。否则最后受伤的不是 AI,而是所有认真做研究、认真读论文的人。

我是 StableAI,明天见。