论文里写一句“使用了AI”,就够了吗?

当AI开始帮我们写论文、读文献和分析数据，科研真正需要透明的究竟是什么？

图1｜从AI辅助，到人工验证，再到公众信任。AI生成科普示意图。

想象一下：一篇论文在末尾坦诚写道，“本研究在论文写作过程中使用了生成式AI。”看起来，AI使用已经披露了。那么，我们是否可以因此更加相信这篇论文？

反过来，如果另一篇论文完全没有使用AI，我们是不是就应该更加相信它？恐怕也不是。

透明很重要，但“披露了AI”并不等于“AI被负责任地使用”，更不等于“研究已经可靠”。

 《The Scholarly Kitchen》文章《The AI Transparency Trap》把这种误区称为“AI透明度陷阱”：我们可能把披露误当成质量或研究诚信的证明。真正需要建立的，是披露、验证与人的责任相结合的体系。[1]

01｜AI已经不只是帮我们“润色英语”

今天，AI正在进入越来越多的科研环节。它可以帮助研究者整理文献、修改语言、翻译论文、编写代码、解释数据、梳理研究思路和组织文章结构。出版机构也会使用自动化或AI辅助工具进行投稿筛查、质量检查和完整性检查。

• 整理、检索和总结文献 

  语言润色、翻译和结构调整 

  代码建议、数据处理和可视化 

  研究问题梳理和结果解释 

  投稿筛查、质量控制和完整性检查 

于是，一个有些矛盾的场景出现了：AI一边帮助生产科研内容，一边又帮助检查AI可能引入的问题。问题不再只是“AI会不会犯错”，而是我们是否能识别、验证并纠正这些错误。[1]

02｜我们可能问错了问题

讨论AI与科学出版时，人们常常先问：“这篇论文有没有使用AI？”这个问题重要，但未必是最关键的问题。

没有使用AI，并不能证明研究可靠；披露了AI，也不能证明研究可靠。

 一篇完全由人撰写的论文，仍可能有无法追溯的数据、错误引用、方法缺陷和过度延伸的结论。另一篇使用AI改善语言的论文，如果数据真实、方法可重复、引用经过核实，并由作者逐项检查，反而可能更加可靠。

图2｜AI使用披露、人工验证与研究可信度是三个相互关联但不能等同的层次。AI生成科普信息图。

AI披露能够告诉读者：是否使用了AI、使用了什么工具，以及AI参与了哪些环节。但披露本身无法证明很多细节事项：

AI披露 ≠ 人工验证 ≠ 研究诚信

 披露是问责的起点，不是质量认证。真正的问题是：AI做了什么，带来了什么风险，这些风险如何被验证，以及最终由谁承担责任。[1]

03｜关键不是“用了没有”，而是“拿AI做了什么”

用AI修改一句语法，与让AI解释实验结果、生成代码或给出科学结论，风险显然不同。《Nature Portfolio》的政策采用风险评估思路：AI可以支持表达、效率和探索，但不能取代学术判断；责任始终由人承担。[2]

图3｜不同AI用途对应不同风险，风险越高，越需要严格验证、记录和人工把关。AI生成科普信息图。

低风险用途通常不改变研究的核心内容，例如语言润色、翻译和格式整理。中等风险用途可能影响理解和呈现，例如文献总结、代码建议和数据解释。高风险用途则可能直接改变研究的可靠性或核心结论，例如生成数据、生成结论或替代研究者作出关键判断。

“所有AI内容都经过人工审核”听起来很有保障，但“审核”可以有完全不同的深度。

• AI生成20条参考文献：是否逐条打开原始来源并确认内容？ 

  AI辅助统计分析：是否检查模型假设、变量编码和结果复现？ 

  AI生成代码：是否使用已知输入和预期输出进行测试？ 

  AI解释实验结果：是否回到原始数据和领域知识核对？ 

有意义的人类验证不是简单浏览，也不是看到结果“似乎合理”。验证应与风险相匹配，并留下足以解释和复核的记录。同行评议也不可能替作者重新计算每一个数字，所以首要责任仍在研究者本人。[1]

04｜未来的AI披露，应该像“方法”一样具体

STM Association、COPE、International Science Council和Global Young Academy正在推动研究中AI披露的全球报告标准。讨论重点包括披露阈值、声明位置、分类体系、是否强制声明，以及如何体现责任和问责。[3][4]

更好的披露，不只回答“是否使用AI”，还应回答“用于什么、如何验证、谁负责”。

 一个信息量较低的声明是：“本研究使用了生成式AI工具。”读者仍然不知道AI做了什么。

更有用的声明可以写成：

作者使用生成式AI工具辅助英文语言润色和部分段落结构调整。AI未用于生成研究数据、统计分析或科学结论。所有AI辅助修改均由作者逐项审阅，作者对最终文本的准确性和完整性承担全部责任。

如果AI参与代码或文献检索，还应说明代码如何测试、引用如何通过原始出版来源独立核实。

如果我们默认“使用AI就不可靠”，也可能造成新的偏见。对于英文并非第一语言的研究者，AI能改善表达和可读性；但语言不够流畅可能被认为“不专业”，语言过于流畅又可能被怀疑“像AI”。判断研究质量，不应建立在语言风格或是否使用某种工具上。[1]

需要保护的不是“100%手工完成”，而是研究是否可验证、过程是否可靠，以及是否有人真正为结果负责。

05｜科研人员在使用AI前，可以先问三个问题

① AI在这里扮演什么角色？

它是在帮助表达已有想法，还是已经开始产生分析、解释或学术判断？

② 如果AI错了，我能发现吗？

如果研究者本身无法判断输出是否正确，这项任务就不适合直接交给AI。

③ 如果别人问“你怎么知道这是对的？”，我能解释吗？

研究者应能解释数据来源、分析路径、引文依据、代码逻辑和验证方法。

ICMJE要求作者披露AI辅助技术的使用方式，强调AI不能成为作者，人必须检查AI输出并对准确性、完整性、原创性和引用负责；编辑和审稿人还必须保护未公开稿件的保密性，不能随意上传到无法保障安全的AI系统。[5][6]

AI透明度应该是信任的起点，而不是终点。真正值得信任的研究，来自严谨验证、清晰证据和明确的人类责任。

结语｜我们究竟应该相信什么？

未来，我们不应该只问“这篇论文是不是AI写的”，而应该继续追问：

• 数据可靠吗，方法可以重复吗？ 

  引用真实且准确吗？ 

  结论受到证据支持吗？ 

  AI参与了哪些步骤？ 

  这些步骤如何被验证？ 

  最终谁愿意并能够为研究负责？

AI的存在不能自动证明存在不端，AI的缺席也不能自动证明研究诚信。面对现代科研中的AI，我们真正需要的不是技术恐惧，也不是对披露声明的盲目信任，而是一套与风险相匹配的验证和问责机制。

延伸阅读｜资料来源

[1] Roohi Ghosh. “The AI Transparency Trap.” The Scholarly Kitchen, 2 November 2026. https://scholarlykitchen.sspnet.org/2026/11/02/the-ai-transparency-trap/

[2] Nature Portfolio. “Artificial Intelligence (AI): A risk-assessment framework for responsible AI use in research publishing.” https://www.nature.com/nature-portfolio/editorial-policies/ai

[3] STM Association. “Global reporting standard for AI disclosure in research: first consultation is open.” 27 January 2026.

[4] STM Association. “AI disclosure in research: towards a global reporting standard.” 28 July 2026.

[5] ICMJE. “Use of AI by Authors.” Recommendations for the Conduct, Reporting, Editing, and Publication of Scholarly Work in Medical Journals.

[6] ICMJE. “Use of Artificial Intelligence in Publishing.”

声明

本文基于公开出版资料撰写，用于科学传播与行业讨论。文章由人工智能（AI）辅助进行资料整理、结构设计、语言优化及科普图片生成，并经过人工审核与编辑。文中的观点、政策信息及引用内容请以原始文章和相关机构发布的正式文件为准。AI生成图片仅用于概念说明，不代表任何真实研究数据、政策文件或机构立场。编辑者对最终发布内容的选择、核验和呈现负责。

特别说明：本文所讨论的《The AI Transparency Trap》本身也公开声明使用ChatGPT辅助编辑、润色和结构调整，并明确由原作者对文章观点、解释和最终内容负责。[1]