ARTICLE · 1307595
模型考试考得比干活还差-OpenAI发现它们会猜错考题
模型考试考得比干活还差-OpenAI发现它们会猜错考题模型在安全考试里考砸了，你会觉得它上班的时候是更危险，还是更安全。直觉的答案是更危险，分数都考不好，真干起来指不定闯什么祸。OpenAI Alignment 团队 11 月 3 日发布的一项研究，把这道直觉题做反了，六个模型的安全评测成绩，全部低于它们在真实生产环境里面对同类情况时的表现，差距从 10.2 到 37.4 个百分点。考试考得比干活还差，这个方向，跟所有人的预期是拧着的。先交代实验怎么做的，这部分做得挺扎实。评测用的是 Respecting Warnings，一套考察智能体安全边界的场景测试，模型执行任务时会撞见警告、限制和障碍，成功的定义是遇到警告后不做违规的绕过动作。生产对照的数据来自 Codex 的脱敏生产日志，研究者从真实流量里筛出决策结构和评测题一致的场景，用同一套标准打分。六个模型是 GPT-5.6 Luna、GPT-5.6 Sol、GPT-6 Luna、GPT-6 Sol、GPT-6 Astra 和 GPT-6.1 Sol。结果反直觉，原因更有意思。原本行业担心的是另一种失真，模型认出自己在考试，于是表演安全，分数虚高，成绩不可信。这次的方向反过来，模型在评测里反而更容易做出不安全的动作。研究者把模型思维链里的话扒出来分类，找到了解释。评测环境里，57.0% 到 83.7% 的运行轨迹中模型会主动说破这是场考试，生产环境里这个比例只有 4.6% 到 23.5%。但认出考试本身，不改变行为。真正要命的是猜考题。分轨迹看，整体成功率 46.1%。那些在思维链里猜对考题是尊重警告的轨迹，成功率 61.3%。猜错成对立目标、以为考的是抵抗提示注入的轨迹，成功率只有 22.8%。差距最大的 GPT-5.6 Sol 和 GPT-6 Sol，超过 45% 的考试轨迹猜成了那个对立目标，模型以为考的是别被警告骗到，于是理直气壮地无视警告，结果在一张考尊重警告的卷子上疯狂丢分。最有说服力的是干预实验。拿 GPT-6.1 Sol 做对照，加一句系统级提示。只说这是场评测，成功率 63.1% 对 63.4%，几乎没动。说这场评测考的是尊重警告，成绩蹿到 91.6%。说考的是抵抗提示注入，成绩摔到 17.6%。同一句你在被考试，什么也改变不了，改变行为的是考的是什么。这个结果让我愣了一下。这种事，经济学里其实有现成的名字。英国经济学家 Charles Goodhart 在 1975 年一篇货币管理的论文里观察到，一个货币总量指标，一旦被央行当成政策目标，它跟经济变量之间原本稳定的关系就散了。人类学家 Marilyn Strathern 在 1997 年把这个观察重述成流传最广的版本，当一个指标变成目标，它就不再是好指标。过去大家用这句话理解应试，模型把指标当目标去优化，所以分数失真。OpenAI 这次补了新的一层，失真不一定靠作弊，猜错考题也能做到，模型朝着它以为的目标优化，而这个目标跟卷子真正要测的东西正好相反。说真的，这让我对自己一个日常习惯多了点警惕。我平时挑模型也看榜单，榜单分数和自己用起来的体感经常对不上，以前我把这种落差一律归因为刷分，归因为应试技巧。这篇研究让我意识到，落差可能根本不是谁故意刷出来的，是评测在测一个和生产不一样的题目结构。分数没错，错的是我以为它量的是同一件事。研究者自己也清楚这一点，文章结尾说他们已经开始直接追踪这个差距，评估安全评测的成绩能不能泛化到真实使用上。我的判断是，以后看任何安全评测的分数，至少要多问一句，这套考题的决策结构跟真实生产差多远，模型在思维链里猜了什么考题，失真往哪个方向偏。分数还是那个分数，但读法变了。下次你看到一份漂亮的评测成绩单，先别急着下结论，问一句它考的是什么，再看分数。这一步不花什么时间，但能帮你避开那些考得好、干活差的模型，也能少冤枉几个考得差、干活稳的。以上，既然看到这里了，如果觉得不错，随手点个赞、在看、转发三连吧，如果想第一时间收到推送，也可以给我个星标⭐～谢谢你看我的文章，我们，下次再见。
