ARTICLE · 1372823
文档送到模型面前,不等于文档被用上了 :
文档送到模型面前,不等于文档被用上了 :
给大模型喂了检索文档,它答出来的内容里,有相当一部分其实是掏的老底。
论文测下来,最低 1.2%,最高 15.7%。怎么测的?把文档里的日期偷偷改成假的再问。它要是读了文档,就答假日期;要是还答真日期,说明根本没看,全靠记忆在撑。
结果挺反直觉:模型越大,越爱凭记忆答题。Qwen 从 0.5B 到 14B,来源率从 1.2% 飙到 13.3%。Llama-3.1-8B 更离谱,15.7%,比它大一倍的 Qwen 还高。脑子存得越多,越不把你给的文档当回事。
更扎心的是,现在那些自动核查工具基本是瞎的。因为模型是先有了答案,再回头找条能自圆其说的引用贴上。工具查逻辑一致当然判得过,但根本查不出这条引用到底参没参与推理。
所以别被那几个引用号骗了。一条答案挂五个链接,可能全是装饰。用 AI 时最好自己人工核,别光看它标了多少参考文献。















































































