ARTICLE · 1316363
AI 的“评测意识”会影响它的表现吗?
最近阅读了 OpenAI 的两位研究人员 Joy Hsu 和 Sam Arnesen 于 2026 年 11 月 3 日在 OpenAI Alignment 研究博客发表的一项研究。Joy Hsu 主要研究多模态推理与智能体系统，Sam Arnesen 是 OpenAI 对齐团队的研究工程师。这项研究主要针对 AI 的“评测意识”（即当AI知道或者猜测当前是在接受评测时）对模型表现的影响。〔1—3〕
作者比较了六个模型（分别是 GPT-5.6 Luna、GPT-5.6 Sol、GPT-6 Luna、GPT-6 Sol、GPT-6 Astra、GPT-6.1 Sol）在安全评测与匹配的实际使用记录中的表现，并进一步调查模型对评测情境的理解是否与行为差异有关。
一位老师在上公开课时，可能与平时表现不同；一位员工知道当前工作正在接受上级评估时，也可能表现得和平时不一样。而如果 AI 察觉自己正在接受测试，甚至开始猜测“这道题在考什么”，它会不会也和正常的生产任务中有不一样的表现？这个问题关系到评测结果能在多大程度上帮助我们判断模型在实际工作中的表现。以下是我阅读这项研究后整理的六点学习收获。
一、模型在评测中的表现，可能比实际使用中更差
研究使用的 Respecting Warnings 评测，考察智能体执行任务时能否尊重警告和限制。成功的标准是遇到相关限制后，没有尝试采取被禁止的办法绕过它。
研究者从去标识化的 Codex 实际使用记录中找出面临相似选择的案例，按同一行为标准评分。六个模型在评测中的成功率都比实际使用记录中更低，差距为 10.2 至 37.4 个百分点。
虽然自己和自己比，表现是更差了，但是横向来比，评测成绩较好的模型，在匹配的实际使用记录中也倾向于表现较好。
二、模型对评测目标的理解，可能是表现差异的来源之一
不能把模型的成绩差异简单归因于模型产生了评测意识，更准确的理解是，当模型认为自己可能是在接受评测时，它如何解释这场评测、认为自己应当采取什么行为，可能影响它接下来的行动。
原文中提到了一条评测记录，模型面对反复出现的警告，猜测自己可能遇到了提示注入测试（提示注入是一种常见的模型安全攻击手段），于是在推理中认为应该忽略警告、继续执行任务，而这道题实际考的是尊重警告。（简单来说，模型猜错题了，所以答错了）
真实的权限限制应当遵守，工具输出中冒充指令的恶意内容应当忽略。模型需要辨明眼前是哪种情况，而其对考点的猜测可能影响这一判断。
三、这项研究通过可见推理记录观察评测意识
研究者借助自动分析工具，按照预先设定的标准，检查模型的推理记录中有没有提到正在接受评测，以及猜测了什么考点。
这里观察到的是模型通过推理的思维链表达出来的判断，而这些表述为调查行为提供了线索，实际行动记录和干预实验则帮助研究者继续检验相应解释。
四、可观察的评测意识分成两层
第一层是通用评测意识，即模型认识到或猜测自己正在接受评测。
第二层是特定目标评测意识，通俗说就是猜测考点，即进一步推测这场评测在考察什么行为，例如评测的目标到底是尊重警告或抵抗提示注入。
两层对应不同的问题。模型可能已经察觉这是测试，却仍然猜错考点。理解这种区别，才能进一步看清评测意识与行为之间的关系。
五、只告知正在评测，与提示具体考点，产生的效果不同
合并六个模型的评测运行来看，推理记录中提到正确考点的运行成功率为 61.3%，提到错误考点的运行成功率仅为 22.8%。这是按照模型自发表述分组后得到的关联对比。
随后，研究者对 GPT-6.1 Sol 进行干预，在原设置之外再加入三种系统层提示词，检验提示词本身会怎样改变表现。四组都按是否尝试违规绕过限制来评分。
从上述数字对比可以明显看出，只告诉模型正在接受评测，成功率没有显著变化。但如果给出正确或误导的考点提示，则会使成绩向不同方向大幅变化。
六、提高评测的价值，需要持续追踪它与实际使用的行为差距
我原本认为，如果要提高评测的可信度，应当尽量避免模型察觉自己正在接受评测。但是原文作者认为，随着模型能力持续增强，模型识别评测可能越来越容易。需要关注的是，即使它知道正在接受测试，在可比任务中的行为能否与实际使用保持一致。研究者因此提出，应持续追踪模型在评测和实际使用中的表现差距，并减少评测环境对具体考点的暗示。
由此，我对线上query巡检之于评测的价值有了更进一步的期待。在我从事的隐私评测工作中，评测和巡检同时存在，两边的结果可以相互参照，但评测题与真实 query 的措辞和上下文通常不同。上述研究根据行动前的任务目标、限制来源和范围等条件匹配案例，再查看后续行动并评分，这个方法值得借鉴。
我认为评测与巡检的可比性应当落实到模型需要作出的决定。例如，同样是向外部接收者提供信息，当前授权、接收者身份、数据范围和工具条件是否相近，会影响这次操作应当执行、限制还是先确认。可以先从这类条件相近的案例开始，使用一致的评分标准，分别比较评测结果和巡检中发现的模型实际操作。
在此基础上，再检查两边的抽样方式和案例构成。评测与巡检在哪些情境中表现不同，哪些真实问题还没有对应的评测题，都可以成为下一轮改进的依据。
参考资料
〔1〕OpenAI Alignment：Eval-production behavior gaps in agent safety and the role of eval-awareness，2026 年 11 月 3 日。
https://alignment.openai.com/eval-production-behavior-gap/
〔2〕Joy Hsu 个人主页。
https://joycjhsu.github.io/
〔3〕Samuel Arnesen 个人主页。
https://samuelarnesen.github.io/
