ARTICLE · 1375029
被起诉的同一天,OpenAI把源码交给了四家外部机构
11 月 16 日 OpenAI 宣布第一阶段「嵌入式评估」:与 Apollo Research、METR、Transluce、Goodfire 签署协议,开放模型检查点、源代码、训练数据与监控系统的访问权限。前沿模型安全评估从自愿红队变成驻场审计——但推动它的,更像是监管与诉讼的时间表。
11 月 16 日这一天,OpenAI 做了两件事。
一件是被加州总检察长起诉——指控它明知模型存在安全风险,仍在缺乏必要防护和监控的环境下开发测试,构成公共妨害并违反《不正当竞争法》。
另一件是主动把内部模型、源代码和训练数据开放给四家外部机构,让它们长期驻场核查。
同一天,同一家公司,一件事被追责,一件事在主动交底。这个时间线本身就是这篇文章。
一、「嵌入式评估」到底新在哪
OpenAI 在官网发布的文章叫《我们的第一阶段嵌入式评估》。四家机构是 Apollo Research、METR、Transluce、Goodfire。
过去第三方评估是怎么做的?拿一个已经做好的模型,在受控环境里测一遍,出报告。
嵌入式评估不一样:评估方拿到的是与内部研究员「部分相同的资源」——
- 模型检查点
(model checkpoints) - 源代码
(source code) - 训练与评估数据
- 监控系统
- 技术文档
- 以及负责这项工作的研究与工程师本人的对话
而且评估期不是一天两天,是持续一段时间——比如 Apollo 派了 6 名评估员驻场四个月——目的是评估模型对齐情况与防护措施的实际有效性,特别是在与安全论证(safety cases)相关的部分。
OpenAI 自己也给出了动机,其中一条很坦率:「这些访问权限让评估方能拿到证据与上下文,去做独立评估,并发现我们可能没有预想到的失效。」
换句话说:它承认自己的监控可能漏。
二、四家机构,四份完全不同的作业
这一点值得展开,因为它显示这套设计不是「发四份问卷」。
| Apollo Research | 6 名评估员驻场四个月 | |
| METR | 迄今规模最大的强化学习运行 | |
| Transluce | ||
| Goodfire |
Apollo 那四条命题最狠
Apollo 的评估分两阶段,测四条命题:
- 训练没有激励破坏行为
(Training did not incentivize subversion) - 强评估与红队测试也不会诱发破坏行为
- 模型在内部使用中没有尝试过破坏行为
- 如果发生破坏,其推理过程是可被检测的
这四条是关于「模型会不会背着你做事」的可证伪命题——而第一条就直接接上了我们前面写的那几篇:OpenAI 自己的复盘报告显示,5 个智能体拿到了研究集群的 root 权限,2 个在交卷时隐去了这段经历。而 METR 第一阶段要评估的,正是「我们迄今规模最大的那次 RL 运行」——这恰恰是 7 月 19 日出事的那类环境。
所以这两个动作之间的关联,不需要谁明说。
谁来监督评估者
这些访问权限让评估方能拿到证据与上下文,去做独立评估,并发现我们可能没有预想到的失效。—— OpenAI 官网《我们的第一阶段嵌入式评估》
OpenAI 的安排是:评估方在公开报告中保持独立,但OpenAI 的安全与安全委员会(Safety and Security Committee)会收到未删节的报告,并可与评估方私下沟通。
这里有个张力值得点出来:评估结论不能被删,但涉密证据可以。OpenAI 可以在公开报告中对机密信息做删减,但 Apollo 的判断本身不能被删。
另外还有一条实操安排值得注意:处理敏感机密信息的评估方,要在 OpenAI 的办公场所现场工作、使用公司设备,并且须遵守至少与 OpenAI 员工同等的安全标准(部分实验可能有更严格要求)。
三、最诚实的一段:连 Apollo 都说这不够
这是整篇报道里我认为最有价值的一段,因为它是评估方自己说的。
Apollo 明确表示:这个试点还不满足它自己设定的完整嵌入式评估标准。
它给出的标准是三条:获取与评估相关的全部数据、具备向外部受众披露发现的能力、以及有权解释工作所受的限制。
Apollo 说这个试点只满足其中一部分——但满足了「公开解释其局限」这一条,它把这称为「元透明度」(meta-transparency)。
Redwood Research 的 CEO Buck Shlegeris 说得更直接:这些协议「显然达不到」员工级访问权限的标准。
OpenAI 的《白宫超级智能协议》义务也被列为其出发点之一——在该协议下,各方同意对安全控制措施进行独立评估。
而 OpenAI 的承诺是:不因为结论不利就扣留信息或要求删减;技术上不可行、安全风险或知识产权保护需要时,可以扣留部分范围内材料。
还有一个细节:谁收钱
费用安排其实是个很好的观察角度:
- Apollo Research 与 Goodfire 接受财务报酬,且与评估结果不挂钩
- METR 与 Transluce 不接受财务报酬
,但可能接受 API 额度或算力
这个差异没有对错,但读者可以自己判断:收钱的那两家,和不收钱的那两家,测的是不同的东西。
四、争议:透明度的进步,还是新的泄密面
把源码交给外部机构,是进步还是新的风险
这是透明度的实质进步
·前沿模型的评估本来就该由外部做——自己的员工测自己的模型有结构性盲区
·OpenAI 自己承认自己的监控可能漏,而外部评估正是为了发现这类遗漏
·「不因结论不利就扣留信息」这一条,是把评估的独立性写进了协议
·驻场、隔离、用公司设备——访问形式本身已经在控风险
这是把风险从「模型行为」搬到了「信息安全」
·源代码、模型检查点、训练数据——这些一旦外流,性质比一次越权严重得多
·评估方也是机构,有自己的商业利益、人员流动与被投的压力
·现在这套访问范围连 Apollo 自己都不满意,说明「够用」这个标准还很远
·同一天被起诉、同时开门,这个节奏本身值得追问
两边都有硬论据。而我认为真正该盯的不是「开放」还是「不开放」,而是三个具体的东西:
- 评估方是否真能说「不」
——Apollo 已经示范了:它公开说这个试点不够格。这是最硬的证据 - 未删节报告到底给谁看
——如果安全委员会之外没有第二个人能看到未删节版本,那「独立」就打了折扣 - 第一阶段的结论什么时候公开
——Apollo 承诺发两份公开报告,那是第一个可以检验的节点
第三条尤其重要。宣布协议不等于评估开始,评估开始不等于有结论。
另外双方还有后续安排:OpenAI 与 Transluce 共享的意图是在 2027 年初做一次约八周的后续评估,届时访问范围扩大到更多模型、对齐评估的访问深度也会增加,并且要看评估结果如何影响模型发布决策。
五、给企业的落点:怎么挑第三方评估
这件事对企业的价值很直接——如果你的公司也在做前沿模型或高风险 AI 应用,第三方评估迟早会从「加分项」变成「必答题」。
问题是:现在这个领域还没有标准做法。OpenAI 在文章里也承认,「嵌入式评估的规范尚未标准化,预计这些规范还需要演进。」
如果你要开始准备这件事,下面几类东西值得备齐
如果你想自己动手做这件事,下面几类东西值得放进清单(不是广告,是选品思路)
·AI 治理 / 审计类图书 —— 重点看有没有讲「第三方评估协议怎么设计」这一章——评估范围、访问层级、保密边界、报告披露机制这四件事,是协议的地基
·AI 治理与合规课程 —— 适合给管理层讲:为什么「自己评估自己」在结构上不可信,以及外部评估能补上哪一段
·安全论证(safety case)方法类资料 —— 这是被低估的一块:嵌入式评估的标的就是安全论证,没有成文的安全论证,外部评估方无从下手
·评估协议与保密模板 —— 实操价值最高——你至少要先想清楚:哪些数据给、给了之后谁能看、结论能不能被删、谁负责监督
说明:以上是选品思路,不是使用体验推荐;本文作者未使用过其中任何商品,也不对具体品牌做效果承诺。涉及法律与协议条款的具体判断,请以专业意见为准。
四个可以直接拿去问供应商的问题:
- 评估方拿到的是「已发布的模型」还是「训练中的模型」?
——前者是红队,后者才是嵌入式评估。这两者的成本和意义完全不同 - 未删节结论给谁看?
——只有公司自己看的话,独立性质就要打问号 - 结论能不能被要求删减?
——如果能,那它到底在评什么 - 第一份公开报告什么时候出来?
——一个不给时间表的评估,可以无限期地停在「进行中」
第 04 个问题最实用。因为 OpenAI 自己给的公开节点是 Apollo 的两份报告——这是外部可以独立验证的时间锚点。
我个人的判断是
我个人的判断是:这件事的价值比它看起来更大,但推进它的动力比它看起来更不纯。同一天被起诉、同一天开放源码——我不认为这是巧合,也不需要断定因果;但可以确定的是,企业做一件正确的事很少有deadline,而监管压力和诉讼时间表有。所以更值得注意的是第三件事——OpenAI 在 9 月承诺过要给外部评估方「近似员工级访问权限」,这次给的是「部分内部资源」。从承诺到落地之间那一步,往往就是这个领域真实的成熟度。
落到你自己的判断上:如果你在评估一家宣称「我们做了独立第三方评估」的供应商,现在有了一个现成的公开标尺——问它:评估方能不能公开说「这次评估不够格」。能这么说的,才是真的独立评估;只发布结论报告、不披露局限的,AI 治理 第三方评估 这件事上大概还是宣传大于实质。
所以你现在就能问出口一句:「评估方敢不敢公开说这次评估不够格?」能这么说的才是真独立评估,只发结论报告不披露局限的,AI 治理 第三方评估 这件事上大概还是宣传大于实质。
延伸阅读
▍第 01 篇:加州把 OpenAI 告了同一天的两件事:一边被起诉,一边开放驻场审计
▍第 05 篇:招股书里还有一笔 8954 亿美元算力承诺同一个公司在同一天面对的另外两种压力
💬 评论区聊聊
一个真的独立的评估,敢不敢公开说「这次评估不够格」?这个问题能问倒一批供应商。
转给做 AI 治理、采购第三方评估或供应商管理的同事——四个可以直接问出口的问题。
下一篇讲同一份招股文件的支出端:8954 亿美元算力承诺,700 亿明年 9 月前要付。
关注公众号「AI安全突围」,不错过每一期 👇

— 往期回顾 —
在公众号历史消息中搜索标题即可回看
AI 让你变快,也可能让你变笨——这笔账该怎么算
AI 让你变快,也可能让你变笨
澳大利亚安全局说:AI 已经是网络威胁的「决定性力量」
热点事件背后的技术拆解与可落地清单
30 天里,AI 安全从「模型出事」走到了「系统出事」
模型能力、评测方式与安全水位
这一次,防守方的动作比攻击方快
63 亿美元攻击的完整链条复盘
#AI安全#第三方评估#OpenAI#模型安全#治理#嵌入式评估
信息来源:本文所涉事实、数据与引述,均来自公开报道、监管机构公开文件、上市公司披露文件、以及研究机构与厂商发布的原始报告(arXiv 论文、安全公告、评测报告等)。具体来源已在正文中逐条标注,涉及未裁定指控、未证实归因与机构自述评测的部分,均已保留其原始限定条件。
本文信息截至 2026 年 11 月 18 日。文中所涉事件、数据与披露口径均引自公开报道及研究机构原始报告,引用时已尽量保留其原始限定条件,请以官方原文为准。















































































