ARTICLE · 1396587
论文改成“小学二年级作文”,AI检测别伤了真学问

名家点评
公开透明
万元奖励
文丨潘湉月(黑龙江大学)
“文章硬是改到小学生二年级作文水平。”据澎湃新闻11月21日报道,有论文作者为压低AI疑似率,不得不对文稿进行修改,有一篇文章指标达标,却被改得口语化严重、缺少学术性,被杂志社退回。
AI检测的目的是防范学术不端,在生成式AI的时代,期刊和毕业论文增设这一标准无可厚非。可问题是,AI本就是在模仿人类的语言,如今倒逼人写得不像“人话”来自证清白,用AI来检测“AI率”,其检测标准是什么?判断逻辑是什么?
如果这些标准都没弄清,就开始用作学术判断的标准,那么损伤的是每一位写作者的权益,文章要写得口语化才能达到AI率的要求,太过口语化也会因此被期刊退稿。当文章硬改成小学二年级作文的水平才能达标,受损的还有学术界。
此前媒体就曾报道知网、万方、维普等平台AI生成率检测结果波动大、原创内容频繁被误判。一名中医方向的科研人员小马就表示,自己之前的文章检测重复率为0.5%,知网系统升级后,AIGC检测数值增加至35%。同一篇文章前后差距如此之大,知网客服回应“结果只做参考”,可当这个结果被用作毕业的标准,向期刊投稿的标准,评职称的标准,这个结果就不只是“参考”了。
检测率要作为学术门槛,前提是检测要足够准确。纯手写文本被判AI率100%,纯AI生成的稿件却被判99.9%,同一篇文章升级之后结果天差地别。一套技术不稳定、不成熟的检测工具的检测结果,被用于裁定学生毕业、学者的职称和学术声誉,既不具有程序的严肃性,也没有结果的公正性。
检测机构技术不成熟是一方面,更值得注意的是,谁把它变成了硬性门槛?
首先是期刊和杂志社,用商业检测报告作为录用的硬性标准,是在用算法替代编辑和审稿人的专业判断,把审稿成本转嫁给投稿人。其次是高校,对已发表的论文重新检测,用新标准衡量旧结果,追溯作者的学术诚信。经过发表的论文,已经通过同行评议,事后再用一个不可靠的数字推翻,来质疑作者,这是让多年前发表的原创成果蒙冤,于法于理都难以自洽,也是把人的思考全权交给了算法。
生成式AI普及的今天,当然需要对AIGC疑似率进行检测,防范学术不端,但是防范不能以误伤原创、拉低学术质量为代价。这需要检测机构进一步明确检测标准、增强检测技术,给被误伤者一条快速的反馈渠道,增设人工复核。同时,检测工具应当服务于学术,评价“是否AI生成”需要加入人的判断,而不是全权让算法评定。
※本文为“红辣椒评论”原创文章,仅系作者个人观点,不代表红网立场。转载请附原文出处链接和本声明。
编辑 | 汪敏星
审核丨王小杨
出品 | 红辣椒评论
推荐阅读




红网·红辣椒评论栏目,先后荣获十七届中国新闻奖一等奖、十四届湖南新闻奖名牌栏目奖、首届中国新锐媒体评论大奖, 四次被推荐为年度“中国互联网站品牌栏目”。
红
辣
椒
评
论
hlj.rednet.cn















































































