这两天,发生了两件事。

OpenAI的"防备主管"Aleksander Madry在X上宣布离职。他去年的头衔还是head of preparedness——OpenAI内部负责评估前沿模型灾难性风险的最高职位。去年夏天他被调去管"AI推理",业内普遍解读为明升暗降。现在,他彻底走了,要做的事跟AI安全没关系——研究AI对经济的影响。

特朗普原定签署一份AI监管行政令。白宫记者被通知就位。最后一刻,总统反悔了。他对记者说,这份行政令"可能会成为阻碍",挡了AI创造的就业和"巨大好处"。他还特别提到中国:“我们在引领所有人。我不想做任何妨碍它的事。”
把这两件事放在一起看,不是巧合。
AI治理——企业内部的安全文化,
政府的监管框架——正在同时从两个方向崩溃。
一张越来越空的座位表
Madry不是第一个走的安全高管。他甚至不是第三个。
2024年5月,OpenAI联合创始人兼首席科学家Ilya Sutskever离职。同月,超级对齐团队负责人Jan Leike也走了——走之前在X上公开说,"安全文化和流程已经被漂亮产品取代了。"超级对齐团队随后解散。
2024年秋天,AGI readiness团队负责人Miles Brundage离职。走的时候发了一篇长文,核心意思:在OpenAI内部推进安全研究越来越难,在外面的影响力可能更大。
到2024年底,联合创始人John Schulman也走了,去了Anthropic——这可能是最微妙的一个信号。Schulman不是被边缘化的,是自己选的Anthropic。薪资差不多,做的事差不多,唯一的区别:Anthropic把"安全"放在品牌的第一行。
现在轮到Madry。
把这张离职名单铺开来看,一个事实越来越难回避:走的人全是安全侧的人。负责商业的、工程的、产品的——稳如泰山。唯独安全负责人,一个接一个地走,原因惊人地一致:在内部推进安全工作,已经没有空间了。
Madry的情况尤其值得玩味。他没有像Leike那样公开批评。他只是安静地调岗、安静地离开、安静地宣布要做一件和安全无关的事。这种安静本身就在说话:他已经不想吵了。
一个负责"防备"的人,最后选择了不防备。你以为这只是一个人的职业选择,但再看一眼那张座位表:OpenAI的安全核心,现在几乎空了。
白宫那一支没签字的笔
这份被搁置的行政令,具体内容没有公开,但从Politico的报道和特朗普的表态能拼出轮廓:它试图建立政府对AI模型的监管和访问机制。
具体写什么不重要。重要的是总统的逻辑:“我不想做任何妨碍它的事。”
“它"是AI产业狂飙突进的势头。这个逻辑在底层假设上就赢了:它假设安全和速度是零和博弈。你要么跑得快,要么绑安全带。一旦接受这个假设,安全就永远输——在任何一场比赛里,没有人会主动选择"慢一点”。
但谁说安全和速度是零和?
Anthropic的Project Glasswing证明了刚好相反——Claude Mythos Preview在一个月里帮助50多家合作伙伴发现了超过一万个高危漏洞。Cloudflare一家就找到2000个bug,误报率比人类测试员还低。Mozilla在Firefox 150里修复了271个漏洞,是上一个版本的十倍。Palo Alto Networks五月份发布的补丁量是平常的五倍。
这不是安全和速度的二选一。这是用AI来加强安全,而且比任何传统方法都快。
但面临AI军备竞赛,总统显然不打算从这个角度想问题。
两件事是同一个趋势

OpenAI安全团队空心化和白宫监管令流产,共享同一个底层逻辑:
前沿AI的发展逻辑是"跑得最快的人制定规则"。 在这个逻辑下,企业内部的安全人员、政府的监管机构,都是"拖慢速度"的变量。当增速被定义为最高目标,安全就变成了成本,成本就要被优化掉。
Madry在OpenAI经历的就是这个。他掌控"防备"方向,被调走,最后离开。白宫的AI监管令经历的是同一个过程:团队起草了方案,拿到了签字日程——在最后一步,被"速度优先"的思维否决。
这不是制度问题,这是激励结构问题。
在一家以"造出AGI"为使命的公司里,安全的核心矛盾是:如果你认真做安全,你可能永远达不到AGI。但如果你不做安全,你达到了AGI,你也不知道有多危险。这个矛盾没有商业解。安全负责人的KPI和公司的KPI天然冲突——你的工作是找出模型的灾难性后果,公司的工作是把它发布出去。这两件事不可能共存。
政府那边也一样,只是换了一套说辞。企业的KPI叫"增长",政府的KPI叫"国家竞争力"。当总统说"我们引领所有人",AI不是产品,是国力的延伸。在国力竞赛里,安全是一个可以推迟的议题——等领先优势确立之后再考虑。
问题在于:前沿AI不会等你。
从业者该看什么
这件事最直接的冲击不在华盛顿,在每一个AI从业者的职业生涯里。
如果你在AI公司工作:如果一个公司安全负责人的流动速度比产品负责人快三倍,这个公司的安全文化就是一个空壳。去查一下,你公司的安全团队有多大话语权,TA上一次提案是被通过了还是搁置了。
如果你做AI应用:Madry的离职意味着,OpenAI内部最了解模型潜在风险的一批人,已经不在了。 这些知识没有传承,随着人的离开永久消失。你依赖的模型提供商,还有没有人在做真正的红队测试?
如果你是研究者:过去两年,前沿AI论文里"社会学后果讨论"部分越来越短——不是研究者的错,是整个行业的兴奋压倒了审慎。
最让我不安的不是"安全没人管了"。最让我不安的是:那些最了解风险的人正在沉默地离开,而那些最有权力管风险的人正在说"等等再说"。 而AI的能力曲线,没有在等任何人。
Madry走的那天,总统的笔放下的那天,训练集群还在全速运转。
人类正在全速向人工智能前进!
夜雨聆风