夜雨聆风学习资料网

ARTICLE · 1311745

模型读长文档越读越容易记岔

模型读长文档越读越容易记岔

前两天让模型读代码改动记录,它理直气壮报出一个旧值。我看完才反应过来——字段在中段早被反复改写过,它对“中间过程”根本没地方放。

这事真不是它偷懒。AllenAI 刚发了 StateBench,专门量模型跟不跟得住长文本里的状态变化。四级难度:一级是变量不改,二级直接重赋值,三级是自引用累加,四级是变量间互相引用、对调。越往后,漏一步就全错。

四款前沿模型一二级都稳,可输入一拉长,三四级准确率直线掉。最长那档四级题,掉到 13% 以下——基本等于瞎猜。开源模型也好不到哪去,很多被拉到远超训练长度去测,一到三级还能撑,四级照样崩。

最扎心的是,格式红利会骗人。同一道题换个表格问法,高分模型直接掉回瞎猜水平。所以我现在的用法很实在:长任务只喂状态快照,让它查表别硬记;测新架构先按四级逐级核,同题至少换两种问法再过。

以后再有人吹长上下文强,先问一句:它在第几级崩?

原文模型读长文档越读越容易记岔
广东,5小时前,

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料