乐于分享
好东西不私藏

22岁前OpenAI研究员称:因警告安全不足被解雇,还拒绝签限制发言的离职协议

22岁前OpenAI研究员称:因警告安全不足被解雇,还拒绝签限制发言的离职协议

他做了一件在任何正常公司都会被表扬的事,给董事会写了份安全备忘录。然后他被叫进办公室,对面坐着律师律师开口追问:"你对AGI是什么看法?你对公司忠诚吗?"

据他本人回忆,这一幕发生在2024年春天,地点是旧金山Mission Street的一栋写字楼。

一份备忘录,一次"越级",一场风暴

故事的主角叫Leopold Aschenbrenner德国长大,哥伦比亚大学19岁毕业,全班第一(valedictorian)。加入OpenAI时他才二十出头,被分进当时最受瞩目的Superalignment团队,那个Ilya Sutskever亲自领衔、号称要在四年内"解决超级智能对齐问题"的精锐小组。

他在内部写了一份备忘录,核心判断是:OpenAI的安全防护"严重不足"(egregiously insufficient),不足以防止模型权重和关键算法机密被外部行为者窃取。

备忘录起初在内部小范围流转,反响据他说"大多正面"。但紧接着发生了一起他未公开细节的重大安全事件Leopold做了一个决定,把备忘录直接交给了董事会成员。

这一步,在任何组织里都叫"越级"在OpenAI当时的氛围里,这叫点燃引信

律师到场,谈话偏离安全问题

董事会收到备忘录后,开始向管理层追问安全问题。Leopold称,管理层对此十分愤怒

Leopold随即收到人事部门的正式警告。随后那场"调查性谈话"让事情变得更加诡异。据他在播客中回忆,律师的问题清单包括:

  • 你认为AGI什么时候到来?
  • 你觉得安全应该达到什么级别?
  • 政府是否应该介入?
  • 你和Superalignment团队对公司"忠诚"吗?
  • 董事会危机期间你在做什么?

整场谈话带着浓重的忠诚度测试意味。

几个月后,约2024年4月,公司正式将其解雇。给出的理由?官方对外说法侧重"涉嫌泄露",他曾把一份关于preparedness措施的头脑风暴文档分享给外部研究者。但Leopold本人称,解雇时HR明确告诉他:安全备忘录是将警告升级为解雇的主要原因。

OpenAI发言人对外表示,他提出的关切没有导致离职;Leopold转述的HR说法却将备忘录列为解雇主因。双方说法相互冲突

百万美元的沉默:签,还是不签?

故事到这里,还只是一个"员工因越级报告被解雇"的职场悲剧。接下来发生的事,把它推成了一场制度性丑闻

Leopold被解雇时,股权即将到达归属悬崖(cliff),据估算,金额在近百万美元量级公司递给他一份离职协议,核心条款是:签署无期限不贬损条款(non-disparagement),就能保留股权。

不签?60天内,已经挣到手的钱全部收回

▲ Sam Altman后来的公开致歉:称"从未因不签协议收回股权",但承认旧文件中确实存在该条款

保密协议(NDA)限制泄露机密;不贬损条款进一步限制批评本身,你不能说公司坏话,甚至据报道,你不能说这个条款存在。换句话说:你不能告诉任何人,你被要求闭嘴。

Leopold拒绝了

"只有两个人没签"

▲ Daniel Kokotajlo:离职文件明确,拒签则60天内失去已归属股权

另一个拒绝的人叫Daniel Kokotajlo,OpenAI前治理研究员。他在当年六月初发了一条15帖长线程,逐字写下了自己的决定过程:

"我和妻子认真想了很久,决定未来发声的自由比股权更重要。我告诉OpenAI我无法签署,因为我认为这项政策不道德。他们接受了我的决定。"

▲ "我们决定:未来发声的自由,比那笔钱更重要"

播客主持人Dwarkesh Patel在2026年8月重提此事时说:据他所知,在2024年政策调整之前,公开拒绝签署的只有两个人,Leopold和Daniel。

两个人,面对一家估值超千亿美元的公司,选择放弃到手的钱,只为保留一个权利:未来某一天,能开口说"有些事不对劲"。

当安全团队本身成了"不安全因素"

Leopold的故事嵌在一条更长的裂缝里。

2024年5月,Superalignment团队解散联合负责人Ilya Sutskever离职,Jan Leike公开发信说安全文化"让位于闪亮产品"。Fortune援引知情人士报道:当初承诺的20%算力,团队一直没有拿到一个被高调宣布"解决超级智能安全"的团队,连算力都申请不到,三年不到就被拆了。

同年7月,《纽约时报》报道:2023年曾有黑客渗透OpenAI内部通讯并窃取与AI技术相关的信息,公司一年多未向公众或当局通报。前技术人员William Saunders后来在美国参议院作证称,内部存在可被工程师绕过的访问控制漏洞。

把这些事放在一起看:一个安全团队的人写了安全备忘录,被开除;安全团队本身被解散;而真实的安全事件,公司选择沉默一年。

当"提出问题"比"问题本身"更危险时,安全文化还剩什么?

"Right to Warn":最知情的人,反而最不能说话

2024年6月,一封名为《A Right to Warn about Advanced Artificial Intelligence》的公开信上线。签署者来自OpenAI、Google DeepMind等多家前沿实验室的现任与前员工。核心诉求四条:

  1. 不得用合同封住员工对风险问题的批评;
  2. 建立可验证的匿名举报通道;
  3. 支持向公众、监管者与独立机构谈论风险的文化;
  4. 不报复公开分享风险信息的人。

这封信指向一个制度缺口:传统举报人保护通常绑定"违法行为",前沿AI的许多风险尚未被立法覆盖。 保密协议把最了解风险的研究者堵在公司围墙内,外面的监管者、公众、甚至董事会,都听不到警报声。

Dwarkesh的回响:两年后,这个故事为什么又回来了

2026年8月,Dwarkesh Patel再次发帖回顾Leopold事件。

▲ Dwarkesh帖配图:Leopold访谈原文截取,记录"HR告知备忘录是解雇主因"

Wes Roth转发评论,把事件归纳为三个环节:警告董事会安全不足→被告知警告促成解雇→拒绝限制发言的离职协议。 他说,Leopold对AI时间表的判断几乎无关紧要;当前沿实验室成为唯一能先看见某些风险的组织,员工必须能开口说话。

▲ Wes Roth引用Dwarkesh帖,将关注点放在员工能否开口

两年过去了OpenAI在2026年1月公开了Raising Concerns Policy,声明保护员工就AI安全提出问题的权利,并提及2024年4月上线的匿名举报热线。制度补丁打上了

还有一个问题没有答案:当私人公司手握可能是人类历史上最强大的技术资产时,内部异议通道,到底是一项"员工福利",还是公共安全基础设施的一部分?

尾声:年轻人的选择

Leopold Aschenbrenner在被解雇时大约22岁。他面前摆着一张支票和一份封口合同。选择签字,拿钱走人,此后保持沉默,对一个刚从大学毕业三年的年轻人来说,这是一个极其"合理"的选择。

他选了另一条路

Daniel Kokotajlo和妻子商量了很久,也选了那条路。

Dwarkesh称他们"极有原则、极具韧性"。在一个健康的组织里,这件事本可平静完成:说出"我觉得有些地方不对"。

在一个每年消耗数十亿美元算力、正在逼近通用人工智能的实验室里,这句话本应是最廉价的安全冗余。但在2024年的OpenAI,它的标价是,你全部的钱,和全部的沉默。