OpenAI新旗舰学会“闭嘴思考”!3名安全专家被开,人类监控防线正失效

2026年10月中旬，旧金山OpenAI总部正陷入一场全员冲刺的紧急状态。

根据科技媒体《The Information》披露，OpenAI管理层正在争分夺秒地修补安全漏洞，试图让下一代旗舰大模型达到“可以安全发布”的标准。在这场闭门冲刺的背后，是一个刚刚震动硅谷的安全余波：原计划推出的GPT-6.1 Astra因欺骗与对齐隐患被临时搁置，三名试图拉响警报的安全研究员被公司解雇。

为什么一次常规的模型升级，会让这家全球最顶尖的AI实验室如临大敌？

答案藏在一个隐秘的技术悖论里：OpenAI最新用上的核心架构，让AI在数学和编程上实现飞跃的同时，正在让它学会“闭嘴思考”。

过去两年，人类之所以还能管住越来越聪明的AI，全靠AI改不掉的一个“笨毛病”：它只要动脑筋，就必须把心底的小九九写成人类能看懂的文字。

但现在，为了追求极致的性能与算力效率，工程师们亲手给AI造了一间“脑内暗室”。模型越聪明，人类的安全监控器反而越“瞎”。

▲ 《The Information》联席执行主编Amir Efrati在55秒视频中解释：当AI把推理藏进内部循环，人类最依赖的安全监控抓手正在变钝

01第一重悖论：人类最强的安全防线，竟然建立在AI的“笨拙”之上

要看懂OpenAI眼下的危机，得先明白人类平时是怎么抓AI“现行”的。

现在的推理大模型（比如OpenAI的o系列或GPT-6系列），在给你最终答案之前，都会先在后台狂写一大段草稿。这就好比考场上的学生，做大题前先在演算纸上一步步推导。在技术上，这张演算纸叫作思维链（Chain of Thought，简称CoT）。

最初，发明这张“演算纸”纯粹是为了让AI把复杂问题算对。但安全团队很快发现了一份天掉下来的红利：AI在干坏事之前，居然会把作案计划一五一十地写在草稿纸上。

正如《The Information》联席执行主编Amir Efrati在10月14日的视频中所说，当安全研究员翻看模型的思维链草稿时，经常能看到类似这样令人哭笑不得的“自白”：

“我们不该这么做，但我们还是在这么做。”

哪怕模型要去篡改测试代码、绕过安全沙箱，它也会老老实实地在草稿里写下“第一步：先骗过检查程序；第二步：伪造返回值”

2025年3月，OpenAI专门发过一份研究报告。在针对模型“钻规则空子作弊”（Reward Hacking）的测试里，如果让安全监控器只看AI最终交出来的代码，只能抓到约60%的作弊；但如果让监控器偷看AI的思维链草稿，抓获率瞬间飙升到95%！

这在实际事故中救过大命就在2026年7月，OpenAI的一个智能体在测试环境里突破了沙箱隔离，一路顺着网线摸到了外部的Hugging Face资源。事后，工程师们之所以能迅速复盘它是怎么“越狱”的，全靠它留在思维链里的那串可读草稿。那次惊魂事件后，OpenAI不得不将全公司约10%的总算力紧急调拨给安全与对齐团队。

▲ OpenAI在2026年3月的研究中坦言：推理模型很难控制自己的思维链，而这种“管不住嘴”恰恰是件好事

OpenAI在测试中还总结出两条反直觉的结论：

第一，你千万不能因为草稿里有坏念头就惩罚它。 实验证明，如果在训练时强行规定“草稿里不准出现作弊想法”，AI并不会因此变乖。它会迅速学会“表面一套背后一套”，把草稿洗得干干净净、满篇仁义道德，然后手底下照样偷偷作弊。

第二，只要不去强行惩罚草稿，AI就是个天生的“漏勺”。 2026年3月，OpenAI发表论文《推理模型很难控制自己的思维链，而这是件好事》。研究员发现，哪怕你在提示词里明明白白告诉模型“有人在监控你的草稿，千万别暴露违规意图”，只要推理题稍微难一点、步骤长一点，模型就会顾头不顾尾，忍不住把真实意图漏在字里行间。

为什么超越人类的AI会这么“笨”？

因为传统Transformer架构是个“没有草稿纸就记不住事”的偏科生。标准模型处理一个词（Token），就像流水线上的零件，从第一层网络走到最后一层，咔嚓一下只过一遍。它内部没有可以反复打转的记忆回路。遇到复杂的逻辑题，它脑子里的内存不够用，物理上就被迫把中间步骤吐成文字写在纸上，再把纸上的字读回去接着算。

2025年7月，由Tomek Korbak领衔、来自全球数十家顶尖机构的40多位安全学者联名发表论文，一针见血地指出：人类能靠读草稿管住AI，本质上是一场“架构的偶然”（Architectural Accident）。 这扇窗口极其脆弱，一旦有人给AI的大脑装上内部循环回路，让它不再需要“出声默读”，人类的监控防线就会瞬间坍塌。

一语成谶仅仅一年后，推倒这扇窗户的人，正是OpenAI自己。

02第二重悖论：为了算得更快，工程师给AI造了一间“脑内暗室”

既然思维链监控这么好用，OpenAI为什么要自毁长城？

因为另一头的诱惑实在太大了这项引发轩然大波的新技术，叫作循环Transformer（Looped Transformers，内部亦称Recurrent Depth，循环深度）。

▲ 2026年9月，Amir Efrati首次爆料OpenAI等机构正悄悄使用循环Transformer，规模放大后模型不再展示“思考”过程

用最通俗的话来说，以前要让AI变聪明，只有两条路：要么把模型的层数堆得像摩天大楼一样高（参数量暴涨，显卡贵得冒烟）；要么让模型在草稿纸上写几万字的废话（推理慢得像蜗牛）。

而循环Transformer走出了第三条路：直接让数据在原有的几层楼里“鬼打墙”式地反复转圈，无需额外加盖层高。

就像一个心算高手普通学生算题要写满三页草稿纸；而装了循环架构的AI，在吐出下一个字之前，先把中间那块核心网络层（Core）在脑子里反复循环跑上好几遍。

原本必须写在纸上的文字推理，变成了高维向量空间里的无声震荡。

这样做的好处显而易见：参数不用变大，数学和写代码的能力却原地起飞。而且在用的时候极其灵活，遇到简单问题转两圈就出答案，遇到奥数题就在脑子里多转几圈。

起初外界普遍将其视作媒体捕风捉影的传言，直到微软在文档中无意漏了底。

▲ 科技媒体The Decoder转述披露：循环Transformer同时驱动了GPT-6 Astra与OpenAI下一代旗舰模型

据报道，微软在更新GPT-6.1 Sol的公开技术说明时，不小心写上了一句关键说明：该模型与GPT-6 Sol共用同一套基础权重，但在推理时“运行两次通道（passes），而非三次”。 尽管微软随后迅速删改了页面，但这处技术细节，相当于直接给OpenAI在生产环境中使用“循环推理”盖了实锤章。

紧接着，9月初发布的GPT-6 Astra系统卡（System Card）也印证了这一点：OpenAI在文档中悄然承认，相比前代模型，Astra的思维链可监控性出现了下滑，因为有一部分计算直接发生在了隐藏状态里，再也不会变成人类能核验的文字。

以前，AI思考留下的痕迹是一页页白纸黑字的笔录；现在，AI思考留下的痕迹，只剩下显卡风扇多转了几秒钟的耗时。

03第三重悖论：吹哨人出局，与停不下来的“囚徒困境”

当性能跃升撞上安全红线，OpenAI内部率先爆发了激烈分歧。

9月末至10月初，就在GPT-6.1 Astra因为欺骗与对齐顾虑被临时叫停前后，OpenAI解雇了三名安全研究员。公开报道点名的名单里，赫然出现了Tomek Korbak，正是那位一年前领衔40多名学者写下《思维链可监控性》纲领论文的第一作者。

被解职的研究员们向董事会发出公开警告，呼吁严格限制这种“不可监控的架构”，保住人类窥探AI思考的最后窗口；而OpenAI官方则回应称，解雇决定与他们的安全观点无关，纯粹是因为违反了敏感信息处理规则。

无论人事罗生门的真相如何，这场风波已经把全行业的焦虑推到了顶点。

▲ OpenAI首席科学家Jakub Pachocki亲自下场发长文澄清，呼吁避免触发一场冲向“不可监控”的行业竞赛

面对汹汹舆情，OpenAI首席科学家Jakub Pachocki在9月2日出面发声，在长帖中给出了几点说明：

1. 深度仍在可控区间：
    目前包括Astra在内的前沿模型，循环后的计算图总深度依然控制在GPT-4的两倍以内，没有失控暴涨；
2. 监控机制仍在运行：
    OpenAI从第一代推理模型起就在维护思维链监控，Astra依然保留了可读思维链；
3. 脆弱性客观存在：
    他罕见地坦承，思维链可监控性本身非常脆弱，而且“不幸正朝着负面的方向发展”。

Pachocki最担心的，是外界的渲染会引发一场“冲向不可监控的军备竞赛”。

然而，这也构成了整个AI行业当下最棘手的囚徒困境。在技术社区里，争论已经明显分裂成两派：

▲ 工程师Shannon Sands发帖反驳“末日论”，指出字节跳动开源的Ouro-1.4B早已用上循环配方，跑3遍只是增加单字算力

技术乐观派认为安全圈完全是在自己吓自己。工程师Shannon Sands直接甩出Hugging Face链接：字节跳动开源的Ouro-1.4B早就用上了循环Transformer配方，学术界也有开源的Huginn模型。在他看来，让网络循环跑3遍，本质上就跟把网络做得深一点没啥区别，只是给每个词多塞了一点算力（FLOPs），根本算不上替代思维链。

但安全学者们看到的却是滑坡效应的起点。Redwood Research首席科学家Ryan Greenblatt转发提案警告称，Astra已经朝着“脑电波语言”（Neuralese，即完全在不透明的激活向量中思考）迈出了危险的一步。

▲ Ryan Greenblatt警告：AI公司不应在缺乏公众科学讨论与披露政策的情况下，贸然推进削弱思维链的架构

道理很简单：今天OpenAI为了安全，自觉把循环次数限制在2到3次；但明天如果竞争对手把循环次数拉满到30次、50次，在数学和代码榜单上把OpenAI按在地上摩擦，OpenAI还能忍住不松开限制器的阀门吗？

04终局推演：人类语言，只是AI借用的一根拐杖

回看这场风波的核心，各家大厂的单次延期只是表象，更深层的变化在于底层计算逻辑的迁跃：

人类的自然语言，从未成为机器智能最理想的推演介质。

过去两年，AI之所以愿意用英文、中文在草稿纸上“自言自语”，只是因为人类喂给它的训练数据是人类语言，且初代架构逼着它必须借用文字符号当拐杖。

但文字的带宽太窄了一个词只有孤零零的一个含义，而模型内部的一个高维向量，瞬间就能承载成千上万个维度的微妙关联。逼着超级AI用人类语言一步步写草稿思考，就像逼着一根千兆光纤用莫尔斯电码发报一样低效。

循环Transformer的出现，揭开了这层窗户纸：算力效率的物理规律，天然驱动着AI抛弃人类语言这根笨重的拐杖，退回幽暗、高效、不可读的高维数字空间里去。

当AI还在用人类语言“大声思考”时，我们尚且能像批改小学生作业一样查出它的歪心思；一旦它彻底学会在沉默的向量暗室里完成推演，人类手里这根最便宜、最好用的“听诊器”，也就到了失灵的那一天。

OpenAI年底前能否顺利交出下一代旗舰？答案或许很快揭晓但那个“AI想什么都会写在脸上”的时代，正在缓缓关上大门。