夜雨聆风学习资料网

ARTICLE · 1145289

同一份文档,AI 有时秒懂有时找不到:字节

同一份文档,AI 有时秒懂有时找不到:字节

同一份文档,AI 有时秒懂有时找不到:字节

把同一份长材料丢给 AI,第一次问它秒回,换个说法再问,它却说“没找到”。这真不是它抽风。

字节 Seed 团队查了 DeepSeek 的几款模型,发现毛病出在省内存那一步。模型读长文时,会把字词信息临时存进缓存。为了不卡,它就按固定步幅把一段内容打包压缩。

代价就在这儿。关键信息稍微挪几个字,落在不同位置,模型就找不到了。论文管这叫“相位敏感性”。检索准确率最高能差 40 个百分点——运气不好,命中率直接从 90% 掉到 50%。

所以看榜单别只盯平均分,掩盖了周期性弱点。平时用也有招:重要问题多问两遍,或者先让 AI 出个摘要目录,再针对具体段落提问。

这篇是预印本,还没同行评审。但它点出了个大方向:AI 处理长文本,稳定才是真正的门槛。

原文同一份文档,AI 有时秒懂有时找不到:字节 Seed 团队解释了原因
湖南,1分钟前,

相关学习资料