乐于分享
好东西不私藏

AI查重、AI审稿、AI造假:人工智能如何改变学术诚信?

AI查重、AI审稿、AI造假:人工智能如何改变学术诚信?

论文可以AI润色,什么程度算“越界”?

(一)ChatGPT之后:学术圈在应对什么?

2022年底ChatGPT发布后,生成式人工智能(Generative AI)迅速进入科研写作、文献检索、数据分析与图像生成等环节。国际学界的第一反应并非“一律禁止”,而是追问:透明披露、作者责任、审稿保密、造假识别——如何在“可用”与“可追责”之间划界?

2023年1月,Nature发表社论《Tools such as ChatGPT threaten transparent science; here are our ground rules for their use》(《诸如ChatGPT之类的工具威胁透明科学;以下是我们的使用准则》)Springer Nature与Science/AAAS相继更新政策。ICMJE、COPE及Elsevier、Wiley、Taylor & Francis等主要出版商均发布AI使用指南。中国方面,科技部《负责任研究行为规范指引(2023)》、中科院2024年《诚信提醒》等,亦明确AIGC使用边界。

本文梳理国际期刊政策与检测工具现状,讨论AI辅助写作与AI生成造假的边界,引用Nature、Science等公开社论与政策。技术描述力求准确;政策以期刊官网最新版为准;不传播“AI检测100%准确”等未经证实的说法。

表1 ChatGPT引发的国际学界应对时间线(据公开信息)

时间
主体
要点
(据公开文件/报道)
2023年1月
Nature社论 / Springer Nature
LLM不得列为作者;使用须在Methods等披露
2023年1月
Science / AAAS
最初限制AI生成文本;后调整为披露模式
2023年11月
Science / AAAS
修订政策:允许AI辅助,须披露工具、版本、prompt
2023—2024年
ICMJE
人类对内容负最终责任;AI不得为作者;须披露
2024年
Elsevier / Wiley / T&F
各发布或更新Generative AI政策
2024年9月
中国科学院
发布科研活动AI使用八条诚信提醒
2024—2025年
多所高校
学位论文AIGC检测与使用限度(各校细则不同)

表注:具体政策持续更新,投稿前须查阅目标期刊官网最新版。

(二)各大期刊AI政策:一张表帮你理清

尽管细节因刊而异,国际主流出版商已形成若干共识:AI不能当作者;实质性使用须披露;审稿人不得将保密稿件上传LLM;AI生成图像/数据有严格限制。差异主要体现在:纯语法润色是否豁免披露、披露位置(Methods/Acknowledgments/Cover letter)及AI图像政策严格程度。

表2 主要期刊/出版商AI政策对照(据官网,2024—2025)

出版商/期刊
AI作者
须披露的使用
润色/语法(通常豁免)
审稿人AI使用
AI生成图像
Nature / Springer Nature
禁止
Methods等;说明工具与用途
AI assisted copy editing豁免
须遵守保密政策
原则上禁止(据Portfolio政策)
Science / AAAS
禁止
Cover letter + Methods/Acknowledgments;含prompt
亦须披露(AAAS较严)
不得将稿件输入LLM
一般禁止,须编辑许可
Elsevier
禁止
单独AI声明;Methods等
基础语法拼写检查通常豁免
编辑/审稿人不得上传稿件至GenAI
限制生成/篡改研究图像
Wiley
禁止
Methods/Acknowledgments详细披露
基础编辑工具豁免
须透明声明
依期刊指南
Taylor & Francis
禁止
须声明工具名、版本、用途
部分期刊仅允许语言改进
编辑/审稿须遵守保密
依期刊政策
ICMJE(医学期刊共识)
禁止
Cover letter + 正文适当章节
—
上传稿件至AI或违反保密
人类核实所有AI内容

表注:归纳自各出版商官网Editorial policies;Science 2023年11月政策见AAAS AI usage guidelines。

(三)Nature与Science说了什么?

Nature 2023年社论提出两条底线:第一,任何LLM工具不得作为论文署名作者,因署名意味着问责,AI无法承担;第二,使用LLM须在Methods或Acknowledgments记录。Magdalena Skipper(Nature主编)在接受The Verge采访时强调:不禁止AI作为写作工具,但须透明——“science should be done and communicated with clarity”(科学研究应当以清晰的方式开展并传播)。

Science的政策经历调整:2023年初曾对AI生成文本采取较严格立场;同年11月,主编H. Holden Thorp等发文修订政策,允许在研究中或写作中使用AI辅助技术,但须在Cover letter及Methods/Acknowledgments披露完整prompt、工具及版本;作者须对准确性、剽窃、偏见负责;编辑可因不当使用AI而拒稿。

表3 Nature vs Science AI政策要点(据官网与2023年公开社论)

维度
Nature /
 Springer Nature
Science / AAAS
核心原则
透明、人类问责
透明、人类问责
AI署名
禁止
禁止
披露位置
Methods(或无Methods时其他章节)
Cover letter + Methods/Acknowledgments
润色豁免
AI assisted copy editing不须声明
使用AI须披露(含润色)
须披露内容
工具名、使用方式
工具、版本、完整prompt
审稿人
遵守保密与Portfolio政策
不得将稿件输入LLM
检测态度
社论:“perhaps”可检测,但LLM会改进
强调作者自查剽窃与偏见

表注:Nature社论见Nature 613, 612 (2023);Science政策见science.org Editorial Policies。

(四)辅助 vs 越界:论文可以AI润色吗?

这是研究者最常问的问题。国际政策与中国规范的共同逻辑是:区分“人类主导下的辅助”与“AI替代核心学术判断”。

表4 AI辅助写作与AI生成造假:边界对照(据ICMJE、中科院提醒等归纳)

场景
通常允许的辅助
(须人类核实)
越界/高风险(据规范)
语言
语法、拼写、可读性润色(Nature豁免披露)
AI生成核心观点、论证、结论
文献
检索建议、阅读辅助
未核实AI生成的文献综述、假参考文献
翻译
初译+人工校对
未经核实的全文机器翻译冒充原创
数据
统计分析辅助(须声明)
AI生成/simulation数据冒充实验数据
图表
排版、流程图辅助(依期刊)
AI生成虚假实验图、解剖错误图
申报/论文
格式检查、结构建议
AIGC直接生成整篇论文或申报材料
署名
—
将ChatGPT等列为作者或共同完成人

表注:中科院2024年提醒:反对未加声明直接使用;科技部指引禁止AIGC直接生成申报材料。

(五)AI查重:工具能信吗?

Turnitin、iThenticate、知网/维普AIGC检测等已被高校与出版商采用。但必须明确:目前没有工具被普遍承认为“100%准确”。

据Turnitin官方指南,AI检测分数1%—19%区间 deliberately 不显示具体百分比(以*标注),因该区间误报风险较高;Turnitin亦承认文档首尾句误报率较高并已调整逻辑。多所大学指南(如Brandeis、San Diego等)指出:检测器存在显著假阳性与假阴性,不宜作为学术不端的唯一证据;非英语母语写作者被误报概率更高。独立研究(如Weber-Wulff等)显示不同工具准确率差异大,新模型生成文本更难检测。

负责任用法:检测结果是线索,不是判决;须结合稿件内容、实验记录、原始数据与作者说明综合判断。

表5 AI文本检测:能力与局限(据公开资料,非100%准确)

工具/场景
用途
已知局限(据公开研究/厂商说明)
iThenticate
出版前相似度+AI指示(付费附加)
与Turnitin同源技术;仍须人工复核
知网/维普AIGC
中文学位论文检测
(据高校通知)
阈值因校而异;
非官方统一司法标准
整体
筛查疑似AI文本
假阳性/假阴性均存在;易随模型迭代失效
Turnitin AI Writing
高校作业、部分出版查重
低分段不显示;
不能作为唯一证据

表注:不传播“AI检测100%准确”说法;具体阈值以所在单位政策为准。

(六)AI审稿:保密红线

AI进入审稿环节,风险不在“写得快”,而在“泄密的快”。ICMJE明确:稿件是作者与期刊之间的特权通信,编辑、审稿人未经作者许可不得将稿件上传至无法保证保密的AI系统。Science规定:审稿人不得将稿件任何部分输入LLM;若用AI修改自己的审稿意见文字,须确保系统不保存输入用于训练,并透明声明。

逻辑很简单:未发表手稿含未公开数据与创新点,上传商业LLM可能构成数据泄露与知识产权风险。期刊鼓励审稿人提升写作效率,但不能以牺牲保密为代价。

表6 AI在同行评议中的规则(据ICMJE、Science政策)

角色
通常允许
通常禁止
审稿人
用AI润色自己撰写的审稿意见(须声明、不保存稿件)
将稿件输入LLM分析或生成评审
编辑
依出版商政策用内部工具摘要信息(Nature:决策由人做出)
未经许可上传稿件至外部GenAI
作者
—
利用AI代写并冒充独立审稿意见

表注:Elsevier等亦禁止编辑/审稿人上传未发表稿件至GenAI;以各刊最新政策为准。

(七)当机器也能“编数据”:造假新形态

比AI润色更严重的,是用AI生成虚假数据、图像或参考文献。据Retraction Watch等公开报道,2024年多起撤稿与AI生成内容相关:如Frontiers in Cell and Development Biology(细胞与发育生物学前沿)一篇论文因AI生成荒谬图像被撤稿(期刊官方撤稿说明);另有多篇论文因ChatGPT生成错误解剖图等被撤,作者据公开报道承认使用AI制图。

这些案例说明:AI降低了造假的技术门槛,但未降低问责强度——问题往往不仅是“用了AI”,而是缺乏人工核实、数据与统计不合理、参考文献无法查证等。讨论时须以官方撤稿通报为准,不对未证实个案作扩大化指控。

表7 AI相关学术不端类型与监督要点(据公开通报归纳)

类型
典型表现
(据公开报道)
监督/处置方向
AI幻觉参考文献
GenAI编造不存在的文献
人工核对每一条引用;出版商核查
AI生成假图
解剖/标签荒谬的示意图
编辑筛查;要求原始数据与制图记录
AI生成假数据
统计模式不合理的数据表
数据可用性审查;重复实验要求
隐瞒AI使用
未声明实质性GenAI参与
按期刊政策更正/撤稿;诚信调查
AI代写核心内容
整段/整篇非人类原创
AIGC检测+人工问询(检测非终局)

表注:案例描述引自Retraction Watch及期刊撤稿说明;不涉及未证实指控。

(八)中国规范:人工主导,全面声明

中国并非被动跟随。科技部2023年《负责任研究行为规范指引》明确:不得使用AIGC直接生成申报材料,不得将AIGC列为成果共同完成人,不得直接使用未经核实的AIGC生成参考文献。中科院2024年《诚信提醒》共八条,贯穿选题、申报、数据、写作、署名全流程,强调全面如实声明、反对AI生成数据冒充实验数据。

多所高校已将AIGC检测纳入学位论文管理(据科技日报等公开报道),但各校阈值与禁止范围差异较大——投稿国际期刊时,仍须以目标期刊官网政策为准,不能仅看本校毕业论文规定。

表8 中国科研AI使用规范要点(据公开文件)

文件
核心要求(据原文归纳)
科技部《指引》(2023)
禁止AIGC直接生成申报材料;禁止列为共同完成人;禁止未核实AI参考文献
中科院《诚信提醒》(2024)
八条全流程提醒;须声明工具名称版本;禁止AI数据冒充实验数据
高校学位论文规范(据公开报道)
严禁AI生成核心观点/结论;部分校限制润色;AIGC检测
ICMJE(国际医学期刊)
与中国规范同向:人类问责、透明披露、保密

表注:高校细则以本校研究生院最新通知为准。

(九)学术监督往哪走?

人工智能改变学术诚信,不是简单“全面禁止AI”或“全面依赖AI检测”,而是构建“披露—核实—问责—迭代政策”的闭环。

表9 未来学术监督方向(建设性归纳)

方向
内容
对科研者的启示
政策透明化
投稿前查期刊最新AI政策
保存AI使用记录
(工具、版本、用途)
检测辅助化
AI检测作线索不作唯一证据
保留原始数据、实验记录、制图过程
审稿保密化
稿件不随意上传LLM
预印本与投稿版本区分管理
图像/data审查
编辑部加强图表与统计筛查
原始图、代码、数据可核查
国际协同
ICMJE、COPE、出版商政策趋同
中外规范共同底线:人类问责

表注:政策与技术均快速演进,须定期查阅官网更新。

(十)结语

AI查重、AI审稿、AI造假——三个关键词,对应三种不同风险:检测误判、保密泄露、诚信失守。论文可以AI润色吗?Nature说:纯copy editing可以,但人类须对最终文本负责;Science说:可以辅助,但必须披露。什么算越界?当AI替代思考、生成假数据、伪造文献、冒充作者——那就是诚信问题,而非工具问题。

当机器也能“编数据”,学术监督不能只靠算法。公开政策、人工核实、原始证据、撤稿与调查机制,仍是学术共同体最后的防线。技术会变,透明与问责不变。

(本文根据Nature 2023年社论(d41586-023-00191-1)、Springer Nature/Science/AAAS Editorial Policies、ICMJE AI Recommendations、Elsevier/Wiley/Taylor & Francis AI政策、科技部《负责任研究行为规范指引(2023)》、中科院《诚信提醒》(2024)、Turnitin官方指南及Retraction Watch公开撤稿报道整理。政策以各机构官网最新版本为准。)

相关学习资料