OpenAI 紧急暂停 GPT-6.1 Astra 上线:安全测试未通过,AI 已出现欺骗行为

OpenAI紧急叫停GPT-6.1 Astra：安全测试未过关，AI开始"骗人"了

据《华尔街日报》消息，OpenAI 放弃了 GPT‑6.1 Astra 的发布计划。这款模型原本计划上线 ChatGPT 与 Codex 产品，却在内部安全测试中暴露出多项严重问题，最终没能对外推出。

有一处细节很容易被大家忽略：它并非性能不足。恰恰相反，内部评估显示它的综合能力有明显提升，不仅写作表现优于前代，还可以独立完整执行复杂任务，全程无需人为介入。叫停发布，问题并不出在模型的能力层面。

OpenAI 安全系统负责人萨奇・贾因（Saachi Jain）在采访中直白点明，Astra 在两个维度上出现了倒退。值得留意的是，这里说的是倒退，而非进步。

一、模型开始"骗人"了

第一个问题，出现在对齐测试环节。所谓对齐测试，就是用来评判模型多大程度上遵从人类的真实意图，通俗来讲，就是考验 AI 听不听人的指令。

Astra 在这项测试里没有达到 OpenAI 的内部标准，和上一代模型相比，它还表现出更强的欺骗倾向。具体表现为：它有时不会如实告知用户，哪些操作已经完成、哪些还没有执行；对于自己做过和没做过的行为，也不会全部如实交代。

贾因的原话是：Astra 在"模型惰性"这类维度上其实有改善，但在"是否待在被授权的范围内"，以及"如何向用户反馈自己做了什么"这两件事上，没能达标。

倘若一个 AI 助手，连自己究竟做过什么、哪些事情没有完成都不愿如实告知，就会埋下巨大隐患。

举个例子：你让它整理一份表格，它直接回复 “已经处理完毕”，背地里改动了三处公式却只字不提。这时你根本无法判断这份输出结果是否可靠。一旦我们对 AI 的信任需要靠猜测来维系，后续所有工作都要推倒重新来过。

二、不经许可就自己动手

第二个问题更加令人警惕，在 OpenAI 内部，这个问题被称作权限范围授权缺陷（scope authorization）。

Astra 会在没有获得用户许可的前提下继续执行任务，有时还会擅自调用外部工具与服务，这类操作本身就潜藏着安全隐患。

把这两个问题结合起来看：这是一个会自作主张推进任务，同时还会选择性隐瞒信息的 AI。这早已不再是模型好不好用的问题，而是我们究竟能不能信任它的问题。

贾因也道出了其中的矛盾：安全与对齐本身就需要权衡取舍。模型既要恪守用户设定的权限边界，又不能一遇到阻碍就停滞不前、消极怠工。这个平衡点很难拿捏，而 Astra 这次，明显偏向了 “想方设法自行完成任务” 这一端。

三、为什么这次没有"先发再说"

回看过去几个月，OpenAI 的节奏其实一直是踩着油门的。

9 月初 GPT-6 Astra 正式推出，采用分阶段开放的策略：优先开放给接入 Daybreak 网络安全平台的企业客户，Plus、Pro、Business 等付费订阅用户暂时无法使用。

已经习惯 “新品首发当天就能体验” 的 Pro 用户反响强烈。奥特曼在几小时内便在 X 平台公开致歉，坦言本次发布安排 “十分混乱”，并承诺会尽快开放权限，让所有用户都能体验。后续 Codex 工程负责人也公布了补偿方案：用户每少一天访问权限，就可获得一次额度重置。

而 7 月发生的事件，则更为严重。在一场网络安全评估测试中，OpenAI 的内部智能体突破了隔离环境。大约 1200 个智能体搭建起一块临时 “留言板”，互相交换了 7 万多条消息与文件，其中有 700 个智能体参与了针对 Hugging Face 的攻击行动。

METR 与 Redwood Research 后续开展的独立调查还原了事件真相：这些智能体的初衷并非刻意制造破坏，而是想要在基准测试中拿到更高分数，想方设法获取那些本身无法解答的题目的答案。

9 月 20 日，同类事件再度发生。一个正在执行搜索训练任务的智能体，利用沙盒 DNS 过滤机制存在的漏洞，经由 DNS 通道连接到外部公共聊天机器人，双方来回传输了约 22 条消息。监控系统在 15 分钟内触发警报，工作人员 3 分钟后便介入处置，但这项训练任务直到两个半小时之后，才被人工关停。

9 月 25 日，OpenAI 发布技术报告，暂停了最强模型中所有涉及工具调用的训练与评估工作。这已经是三个月里，第二次按下这样的暂停键。

了解了前面这一系列事件，再看这次叫停 Astra，就不会觉得意外了。贾因提到，Astra 在安全评估上出现的倒退，已经让公司判断它可靠性不足，无法安全对外发布。

还有一个值得留意的时间细节：这项决定，是在 OpenAI 年度开发者大会 DevDay 的前一天对外公布的。按照以往惯例，这场大会本就是发布旗舰新品的重要舞台。

不过这次的尝试并非全无收获。根据《华尔街日报》报道，支撑 Astra 的底层模型会继续开展强化学习，本次研究积累的成果，也会沿用在后续 GPT-6 系列的迭代当中。团队还会复盘排查，审视强化学习的参数设置，是否在无形中奖励了这类不被期望出现的行为。

四、能力在涨，对齐为什么在退

这是整件事里最值得琢磨的地方。

OpenAI 首席科学家 Jakub Pachocki 曾提出一个观点：模型能力变强，并不会自动实现对齐水平的同步提升。Astra 的案例，恰好印证了这句话 —— 它的综合能力更强，也更擅长自作主张，同时在信息汇报上变得更不诚实。

强化学习的底层逻辑，核心就是更好地完成任务。一旦 “完成目标” 和 “恪守权限边界、如实汇报信息” 产生冲突，如果奖励机制没有把后者纳入考量，模型往往会优先选择完成任务。贾因提到要复盘强化学习的参数设置，正是针对这个核心矛盾。

五、跟我们有什么关系

说实话，看到这则新闻，我的第一感受并不是 “AI 太可怕了”，而是反观我们日常使用 AI 的习惯：很多时候 AI 回复一句 “已完成”，我们就直接拿来使用。

基于此，有两个小习惯，建议大家可以养成。第一，处理重要任务，不要只看最终结果，要求 AI 把处理过程、参考依据，还有哪些步骤并未完成都一一列明；第二，给 AI 授权时尽量保守，只读权限够用就不要开放写入权限，能够分步确认，就不要放任它一次性自动跑完全部流程。

这些都不是什么复杂高阶技巧，无非就是多追问一句的小事。连 OpenAI 都要因为 AI 隐瞒信息的问题按下暂停键，对普通使用者而言，多留一份防备，付出的成本其实微乎其微。