ARTICLE · 1222590
厦大团队 ACL 2025:强制"以文档为准"反而
厦大团队 ACL 2025:强制"以文档为准"反而
厦大团队 ACL 2025:强制"以文档为准"反而
企业用 RAG 时,常碰上这种尴尬:模型训练时记的是旧政策,知识库却已经更新了。
这时候模型容易犯两种错。要么太信自己,死咬着旧答案不放;要么听进去了,却把新旧信息混成一锅粥。实测下来,模型“太信自己”才是大头。
为了治这毛病,有人想出个狠招:在提示词里直接命令它“必须以文档为准”。这招确实管用,过度自信的错误率从 13.6% 压到了 9%。但代价是,它开始乱匹配,错误率反而从 5.2% 飙到了 14.1%。
强行压制参数知识,反而会破坏模型的内部结构,让它更容易误读上下文。
厦大团队干脆不搞压制了,弄了个 FaithfulRAG。它先让模型把自己的旧知识列出来,再跟新文档逐条比对冲突点,最后带着这些冲突去推理。这套法子不仅没让正常场景退化,准确率还提了一大截。
不过这法子也有软肋:多轮调用算下来成本不低,而且如果模型原本对某个领域一无所知,这招也会直接失效。
原文厦大团队 ACL 2025:强制"以文档为准"反而更差?FaithfulRAG 用事实级对齐解决知识冲突
江苏,1小时前,















































































