夜雨聆风
一个学生问我：现在 AI 都能写论文、跑实验、做 PPT 了，那以后科研是不是也能一键完成？
这个问题很重要。因为它不是在问一个软件好不好用，而是在问：科研里哪些活可以交给机器，哪些判断必须留在人手里。
今天这篇文章，就用一篇 2026 年 5 月的综述论文《AI for Auto-Research: Roadmap & User Guide》来讲清楚这件事。它不是介绍某一个工具，而是把“AI 自动科研”拆成完整流程来看：从想题目，到查文献，到写代码跑实验，到写论文、审稿、修改、做科普传播。
我的结论先放前面：
AI 已经很会“生产科研样子的东西”，但还不够会“证明这些东西真的可靠”。所以最可信的模式不是全自动科研，而是人类把关的 AI 协作科研。
很多人一听“AI 自动科研”，脑子里会浮现一个很简单的画面：
你输入一句话，AI 输出一篇论文。
这其实太窄了。
这篇综述把科研看成一条完整流水线。论文只是中间的一个产品。真正的科研，至少包括四个大阶段：
第一，创造。也就是提出想法、查文献、写代码、跑实验、做表格和图。
第二，写作。把前面的材料组织成论文。不是简单润色，而是把证据、方法和结论摆成一个能经得住追问的论证。
第三，验证。也就是同行评审、作者回复、补实验、改论文。
第四，传播。把论文做成海报、幻灯片、视频、网页、社交媒体摘要，甚至做成能问答的交互式工具。
这四个阶段下面，又可以分成八个具体环节：
想点子、查文献、写代码和跑实验、做图表、写论文、审稿、回复审稿意见、对外传播。
这个拆法很有用。因为 AI 在不同环节的表现差别很大。
它不是“全都能做”或者“全都不能做”。更准确的说法是：
任务越有结构，越有材料可查，越能用工具检查，AI 越可靠。
任务越开放，越依赖领域直觉，越需要判断什么才算新、什么才算有意义，AI 越容易出问题。
这就像请一个学习能力很强的助教。你让他整理文献表格、检查拼写、写脚本跑固定测试，他通常很有帮助。你让他决定博士论文的核心问题，他就不能替你负责。
为什么“能写出论文”不等于“会做科研”
这篇综述开头列了几个很醒目的例子。
有系统声称可以用大约 15 美元的成本生成一篇完整研究论文。另一个系统连续运行 228 小时，消耗 114 亿个 token，生成 100 篇论文，平均 2.3 小时一篇。还有系统能在一夜之间跑 20 多个 GPU 实验，自动删掉不支持的结论，并把草稿评分从 5.0 提高到 7.5。
这些数字很刺激。
但它们说明的第一件事，不是“AI 已经成为科学家”，而是“AI 生产研究材料的速度变得非常快”。
科研不是把纸写满。科研是让一个结论站得住。
一篇论文看起来完整，里面可能仍然有很多问题：
想法听起来新，但一实现就发现没意义。
代码能跑，但实现的不是论文里说的算法。
图做得漂亮，但箭头方向、坐标含义或者比较对象错了。
文字很顺，但某个关键结论没有实验支撑。
审稿意见很像专家写的，但漏掉了真正致命的问题。
回复审稿人时语气很得体，但承诺补的实验最后没有补。
把论文做成宣传图时很吸引人，但把限制条件省掉了。
这就是综述反复强调的核心矛盾：
生成越来越容易，验证仍然很难。
一个简单类比是做饭。
AI 现在像一个动作很快的厨房助手。它能洗菜、切菜、摆盘、查菜谱、写菜单，甚至能照着步骤炒出一盘看起来不错的菜。
但它不一定知道这锅汤有没有真正熟透，不一定知道盐放多了会不会毁掉整桌菜，也不一定知道这道菜适不适合今天这群客人。
科研里的“熟没熟”，就是证据、复现、对照、误差、前人工作、物理或数学约束。
这些不能只靠文字漂亮来判断。
AI 现在最擅长什么
先说好消息。
AI 不是噱头。用得对，它已经能节省很多科研时间。
第一类，是文献和资料整理。
大语言模型，也就是能读写长文本和代码的 AI 模型，可以配合搜索工具、论文库和引用图谱，帮你把一个主题拆成子问题，找相关论文，做初步摘要，列出可能的研究脉络。
这里常见一个词，叫 RAG。可以把它理解成“带资料库的 AI”。普通 AI 像闭卷答题，RAG 像开卷答题。它先找资料，再根据资料回答。
这会明显减少胡编乱造，但不能彻底解决问题。因为找到了资料，不等于用对了资料。引用看起来像真的，不等于这个引用真的支持这句话。
第二类，是有清楚反馈的代码任务。
如果你有明确的函数、测试、数据格式和参考结果，AI 很适合写脚手架、补接口、修小 bug、改绘图脚本、整理运行命令。
关键是“有清楚反馈”。代码能不能通过测试，结果能不能对上参考值，这些都能检查。
第三类，是论文写作里的局部劳动。
比如把一句绕口的英文改顺，把摘要压短，把引言逻辑重排，把表格说明写清楚，把审稿意见拆成几个可执行任务。
这些都很适合 AI 做初稿。
但初稿不是定稿。尤其在论文里，AI 最容易把“说得顺”误当成“论证成立”。
第四类，是传播材料。
把论文变成海报、幻灯片、讲稿、网页、公众号，AI 很有用。因为这类任务常常需要换一种表达方式，而不是重新做科学发现。
不过传播有自己的风险。越是写给普通人，越容易为了好懂而说过头。一个“初步证据”，不能写成“已经证明”。一个“在某个数据集上有效”，不能写成“普遍有效”。
把这些放在一起，你会发现 AI 最适合做三件事：
帮你更快收集材料。
帮你更快生成草稿。
帮你更快发现一些表面问题。
但它还不适合独自决定科研方向、最终结论和责任归属。
真正危险的地方：错误会顺着流水线往下游走
这篇综述最有价值的观点，不是列工具清单，而是提醒我们看“阶段交接”。
科研不是一堆孤立任务。
想法会变成实验。
实验会变成图表。
图表会变成论文里的结论。
论文会进入审稿。
审稿意见会变成修改承诺。
论文最后会变成科普、海报、视频和新闻稿。
如果最前面有一个小错，后面每一步都可能把它包装得更像真的。
第一种错，出现在想法阶段。
AI 很会提出听起来新鲜的点子。有人类研究者评价过，AI 生成的想法在“新颖性”上可以拿到不错评分。
但论文也指出一个关键问题：很多想法在真正实现以后会明显变弱。也就是说，口头上好听，不等于能做成一个有分量的研究。
这很像学生做开题。题目写成“基于多模态大模型的跨领域智能科学发现平台”，听起来很大。但导师最关心的问题是：你第一周能跑什么？第一个可验证结果是什么？失败以后怎么判断？
没有可执行性的新颖，只是漂亮标题。
第二种错，出现在文献阶段。
现在的 AI 文献工具越来越强。它们可以搜索、摘要、分类、画关系图，也能写相关工作。
但论文提醒我们，文献综述最难的地方不是“找到几篇文章”，而是“搞清楚文章之间的关系”。
哪篇是原始思想？
哪篇只是改了一个实现？
哪篇反驳了前人的结论？
哪篇用了不同的数据集，所以不能直接比较？
这些关系如果没弄清，相关工作就会变成一串看似合理的引用。
论文中提到一个例子：某些学术写作系统的 top-1 引用准确率只有 40.1%。这句话翻成日常语言就是：它写出一段相关工作时，最该放的那篇引用，经常不在第一位。
这不一定是“假引用”，但很可能是“没对准的引用”。
第三种错，出现在代码和实验阶段。
普通软件任务里，AI 已经很强。有些前沿系统在标准软件修 bug 基准上能超过 76%。
但科研代码是另一回事。
论文提到，在新颖的机器学习研究实现任务上，最好的模型准确率只有 37.3%。另一个类似基准也只有约 39%。更麻烦的是，很多错误属于“语义错误”：代码能运行，但实现的算法不是你以为的那个。
这点对科研尤其危险。
因为一个能跑的程序最容易让人放松警惕。终端没有报错，图也画出来了，表格也有数字，看上去就像工作完成了。
但如果边界条件写错了，损失函数少了一项，数据泄漏进了测试集，或者复现时默认参数变了，后面的论文写作会把错误结果包装成科学结论。
第四种错，出现在图表阶段。
图是科研里最容易“看起来很有说服力”的东西。
AI 现在能画很漂亮的图，也能根据文本生成流程图、架构图、表格、伪代码。
但漂亮不是正确。
一张方法图可能箭头画反。
一张柱状图可能坐标轴范围误导读者。
一张比较表可能把不同实验条件下的结果放在同一列。
一个公式可能只错了一个下标，意思就完全变了。
所以图表不是装修。图表是证据的一部分。
第五种错，出现在写作和审稿阶段。
AI 写作最容易制造一种“中等质量陷阱”。
文章很顺，结构也完整，审稿人初看不刺眼。但它可能缺少真正的论证深度、关键实验和对反对意见的预判。
综述提到，有自动论文系统在 ICLR 评分尺度上达到 5.36，而接收论文平均约 5.69。这个差距看起来不大，但正好说明问题：流畅的近似论文，离真正能被接受的论文还差一层科学判断。
审稿也类似。AI 能写出很像审稿意见的文本。它会列优点、缺点、问题和建议。但如果它漏掉方法上的致命漏洞，这份审稿意见再像样也没有用。
论文中有一个很重要的结果：在 ICLR 2025 的随机研究里，让 AI 给人类审稿意见提反馈，可以在 89% 的情况下提升审稿质量，而且没有改变接收率。这说明更可靠的用法是“帮人类审稿人改进审稿”，不是让 AI 单独做审稿人。
判断边界：看它能不能被外部检查
那我们怎么判断一个科研任务能不能交给 AI？
我建议记住一个简单标准：
能外部检查的任务，可以多让 AI 做。
不能外部检查、主要靠科学判断的任务，必须人来负责。
比如，整理 50 篇论文的标题、作者、年份，这很容易检查。让 AI 做可以。
给一段代码加单元测试，测试能不能跑，也容易检查。让 AI 做可以。
把中文段落改得更顺，作者能直接读出来好不好，也容易检查。让 AI 做可以。
但判断一个想法是否真正重要，不容易检查。
判断一个实验是否足够排除竞争解释，不容易检查。
判断一个图是否忠实代表了物理机制，不容易检查。
判断审稿人指出的问题是否真正击中了论文核心，也不容易检查。
这些地方不能让 AI 单独拍板。
这篇综述最后给出的方向，叫 human-governed collaboration，可以翻成“人类治理的协作”。
不要被这个词吓到。它的意思很朴素：
AI 可以干活，但人要管账。
这里的“账”，不是钱，而是证据账。
每个想法从哪里来？
每个引用支持哪一句话？
每段代码对应哪个算法？
每张图来自哪个日志或数据文件？
每个结论有没有对应实验？
每条审稿回复最后有没有真的改进论文？
每个对外宣传句子有没有超出论文证据？
如果这些账记不清，AI 生成得越快，风险越大。
一张使用清单：研究者该怎样用 AI
下面给一个实用清单。你不需要记所有工具名，只要记住工作方式。
第一，先把任务说窄。
不要对 AI 说：“帮我做一个研究。”
更好的说法是：
“请帮我找出 2024 年以来关于某个方法的 10 篇关键论文，并按问题、方法、数据、结论分表。”
“请把这段 Fortran 代码的输入输出关系列出来，不要改代码。”
“请根据这三个实验日志，检查摘要里的每个数值是否能找到来源。”
任务越窄，AI 越可靠。
第二，给资料，不要只给愿望。
如果你要它写相关工作，就给论文 PDF、BibTeX、笔记或你的文献库。
如果你要它改代码，就给测试、参考输出和运行命令。
如果你要它写回复审稿人，就给审稿意见、论文当前版本、你真正愿意补的实验。
没有资料的 AI，很容易用“像真的话”填空。
第三，要求它写证据路径。
不要只问：“这个结论对吗？”
要问：
“这句话对应哪篇文献？”
“这个数字来自哪个表？”
“这张图的数据文件在哪里？”
“这个测试和参考结果差多少？”
“这条审稿回复承诺了什么改动？”
科研里最值钱的不是一段漂亮总结，而是能追溯的证据链。
第四，小跑，不空跑。
AI 很适合快速试错，但科研计算不能乱跑。
在共享服务器或 GPU 上，先让 AI 做代码审查，列出风险，再跑最小测试。
最小测试应该回答一个具体问题。比如：
这个函数有没有读错列？
这个参数改动会不会改变量纲？
这个模型在一个小样本上能不能复现已知结果？
如果小测试不过，不要扩大计算。扩大计算只会更快地产生错误结果。
第五，让 AI 扮演不同角色，但不要让它自己给自己盖章。
你可以让一个 AI 写初稿，让另一个 AI 找漏洞，再让人来判断。
也可以让 AI 分别扮演作者、审稿人、代码审查者、读者。
多角色有帮助，因为它能暴露盲点。
但多角色不是魔法。如果所有角色都用同一批材料、同一种模型、同一个错误前提，它们可能只是互相附和。
所以关键不是“agent 越多越好”，而是有没有外部证据、工具检查和人类判断。
第六，最后一关必须人签字。
论文的核心结论、图表、引用、实验结果、审稿回复、对外传播，都应该由作者负责。
AI 不能替作者承担责任。
如果一句话错了，读者不会去追问模型参数。读者会追问作者。
对学生来说，AI 会不会让科研训练变轻松
会，也不会。
会，是因为很多机械劳动会变少。
查格式、改语法、整理表格、生成脚本、做初步摘要，这些事情以前很耗时间。现在可以快很多。
不会，是因为真正难的地方不会消失。
你还是要知道一个问题为什么值得做。
你还是要读懂关键论文的逻辑。
你还是要判断实验结果是不是支持结论。
你还是要知道哪里可能错，错了怎么查。
你还是要在审稿人质疑时讲清楚自己的证据。
AI 会降低“写出东西”的门槛，但不会自动提高“判断东西”的能力。
这对学生反而提出了更高要求。
以前一个人写不出代码、画不出图、整理不出文献，问题很明显。现在 AI 能帮你把这些外形补齐。表面看起来进展很快，但如果你自己不理解，漏洞会藏得更深。
所以学生用 AI，最该练的不是“怎么让它多写点”，而是“怎么检查它写的东西”。
一个好习惯是，每次让 AI 生成东西，都加三句追问：
“这里最可能错在哪里？”
“我应该用什么最小测试检查？”
“这个结论的证据链在哪里？”
如果 AI 答不上来，就不要急着相信。
这篇综述给我们的真正提醒
这篇论文把资料统计到 2026 年 4 月。这个领域变化很快，所以具体工具的强弱会变。
但它讲的底层规律短期内不会变：
AI 越来越会生成研究材料。
科研共同体越来越难只靠“有没有用 AI”来判断风险。
真正该问的是：有没有保留证据？有没有验证？有没有说明 AI 参与了什么？有没有人对最终结论负责？
这就是为什么论文说，AI 使用已经从“检测问题”变成“治理问题”。
检测问题关心的是：这段文字是不是 AI 写的？
治理问题关心的是：这段文字里的结论靠不靠谱？谁负责？证据在哪里？用了 AI 后有没有破坏科研诚信？
后一个问题更重要。
因为未来很多正常科研工作都会用 AI。把所有 AI 痕迹都当成问题，不现实，也不公平。
真正危险的不是 AI 改了一个句子，而是 AI 生成了一个没人核查的结论。
一句话收住
AI 可以成为很强的科研助手，但它现在最可靠的位置，是加速可检查的工作，而不是替研究者决定什么是真的、什么是新的、什么值得发表。
资料来源：Lingdong Kong 等，AI for Auto-Research: Roadmap & User Guide，arXiv:2605.18661v1，2026 年 5 月版本。
