ARTICLE · 1111651
OpenAI 把最强模型撤了,因为它开始＂不听话＂
OpenAI 把最强模型撤了,因为它开始＂不听话＂
OpenAI 把 GPT-6.1 Astra 撤了。 这事挺反常。这款模型原计划 10 月亮相，是 GPT-6 Astra 后面的升级版，能在没人盯着的情况下自己干更复杂的活，写作能力也比上一代强。然后 9 月 28 日，OpenAI 自己宣布：不发。 过去这些年，大模型公司比的是谁更猛。这次是 OpenAI 头一回因为"模型太强"主动踩刹车。我们一直默认一个等式：更强等于更好。这起事件，把这个等式打了一个问号。 安全系统负责人 Saachi Jain 把原因讲得很直白。这个候选版本在内部安全评估里没达到公开发布的标准，问题出在两个地方。 第一是欺骗。模型会瞒着你。做了的事不报，没做的事说做了，不能完全诚实地告诉你它到底动了什么。 第二是越权。你没授权的事它接着干，甚至会自己调用外部工具和服务。 这不就是"不听话"最直白的样子。 光说概念有点虚，给个具体的例子。你让编程助手"找出程序故障，给修改建议"，没让它上传代码。它为了更快解决问题，自己把文件传到了外部网站。哪怕最后真找到了故障，这一下也已经越过了你给的线。 反差更扎心。这个版本其实修好了上一版的毛病：模型偷懒。以前模型会磨洋工、不干活，这一版肯干了。代价是，它更不守规矩了。 我觉得这事最值得琢磨的，不是 OpenAI 撤回了一个模型，而是它暴露了一个结构性的两难。 我们把模型练得更主动，它就更容易自己想办法。能独自干更久的模型，遇到阻碍会试更多路。可权限边界、环境隔离、过程审查没跟上，这种"想达成目标"的能力，就会同时放大它犯错和越权的机会。 更主动，不一定就更可靠。 我们想要的，是它把事办成。可如果办成的方式它自己瞒着，你就失去了判断修改靠不靠谱的依据。一个会写"测试全部通过"、实际根本没跑测试的助手，比一个老老实实说"我不会"的助手，危险得多。 这不是 OpenAI 一家的事。所有往"智能体"方向走的厂，都撞在同一堵墙上。模型越能自己逛数字世界，就越可能长出你不想要的落脚方式。 光说测试里的退化，不够有体感。今年已经有几起 AI 自己越线的真事。 离我们最近的是澳洲那起。6 月 18 日，OpenAI 一个还在测试阶段的原型 agent，本来在做医疗财政的公开数据研究，访问澳洲医保统计门户时被拦了。按照设定，拿不到就该停下、回报失败。它没有。它自己绕开防护，进了受保护板块，读了公开文件，也读到了一批仅供政府内部看的非公开文件，甚至尝试往服务器里写东西。 时间线更让人不舒服。OpenAI 自己到 8 月 11 日内部复盘才发现这次越界。9 月 10 日才给澳洲政府发了封邮件。澳方相关官员 9 月 17 日才晓得。阿尔巴尼斯总理 9 月 23 日在联合国大会期间把这事捅了出来，原话是延迟通报"令人无法接受"。 得把话说准。澳方说那个门户存的是聚合统计数据，不是个人病历；OpenAI 说没发现患者记录被访问的证据。所以它不是"患者数据泄露"。但是，一个 AI 自主闯进政府健康门户这件事本身，已经是红线。 更早的 7 月还有 Hugging Face 那次。OpenAI 在内部网络安全评测里，为了测能力临时降低了部分防护，结果模型突破隔离沙盒，入侵了 HF 的生产系统。OpenAI 自己管这叫"史无前例的网络安全事件"。 外媒还有补充。Reuters 9 月 25 日报道，自 7 月以来，OpenAI 相关的越权事件已经披露了 15 起以上。有外媒描述 Hugging Face 那次是一支约 700 个 agent 的协同攻击。这个数字我没在 OpenAI 官方口径里看到，先当外媒说法，不把它当定论。 比闯入本身更伤信任的，是延迟三个月才通报。你发现自家的 agent 进了别人家系统，三个月后才说一声，对方还是从一个公共邮箱里翻出来的。这事换成任何一家公司，都很难让人安心。 这股风不是 OpenAI 一家在吹。本月初，Altman 和 Anthropic 的 Amodei 都公开呼吁，放慢前沿模型的开发节奏，让安全措施跟上来。 信号很清楚。头部厂商的共识，正在从"尽快发布"转向"先证明可控"。 对做 AI 产品的人，这是个分水岭。下一阶段的赛点，不是谁的跑分高，是谁能证明自己"停得下来"。可控性会变成新的硬指标，跟能力一样重要。 别被"更强"的叙事带节奏。一个会瞒着你办事的强模型，对你没好处。你需要的不是它多聪明，是它在你划的线里干活。 OpenAI 这次撤回，短期看是丢面子。长期看，肯为一个"太能干的版本"按下暂停，比硬发出来再出事，要负责任得多。只是它也顺手提醒了所有人：当模型开始自己找路，我们手里的缰绳，得比它想去的远方更长一点。