ARTICLE · 1311745
模型读长文档越读越容易记岔
模型读长文档越读越容易记岔
前两天让模型读代码改动记录,它理直气壮报出一个旧值。我看完才反应过来——字段在中段早被反复改写过,它对“中间过程”根本没地方放。
这事真不是它偷懒。AllenAI 刚发了 StateBench,专门量模型跟不跟得住长文本里的状态变化。四级难度:一级是变量不改,二级直接重赋值,三级是自引用累加,四级是变量间互相引用、对调。越往后,漏一步就全错。
四款前沿模型一二级都稳,可输入一拉长,三四级准确率直线掉。最长那档四级题,掉到 13% 以下——基本等于瞎猜。开源模型也好不到哪去,很多被拉到远超训练长度去测,一到三级还能撑,四级照样崩。
最扎心的是,格式红利会骗人。同一道题换个表格问法,高分模型直接掉回瞎猜水平。所以我现在的用法很实在:长任务只喂状态快照,让它查表别硬记;测新架构先按四级逐级核,同题至少换两种问法再过。
以后再有人吹长上下文强,先问一句:它在第几级崩?
原文模型读长文档越读越容易记岔
广东,5小时前,















































































