ARTICLE · 1366587
OpenAI 把源码交给四家外部机构那天,我想起了 1934 年那批靠审别人财报活下来的会计事务所
11 月 13 日,OpenAI 发了篇博客,宣布跟四家独立评估机构签约,启动第一阶段的嵌入式评估。四家机构,Apollo Research、METR、Transluce、Goodfire。
搁平时,这种大厂又搞了个安全动作的新闻,我大概率扫一眼就划走了。AI 公司的安全承诺,一年能发几十条,白皮书、红线、对齐团队、安全委员会,词都挺好听,大部分发完就没人再追问了。
但这条,我看了两遍。
让我坐直的不是 OpenAI 又签了几家评估机构,是它这次交出去的东西。不是 API 接口,不是打分权限,是模型 checkpoint、源代码、训练和评估数据、监控系统、技术文档,还有跟责任研究员坐下来聊的资格。
你品品这几个词。
checkpoint 是模型训练到一半的状态,是这家公司最核心的生产资料。源代码是命根子。训练数据是花了天价才攒下来的东西。监控系统,是它内部长什么样。技术文档,是它到底怎么想的。
这哪是开放给评估机构啊,这是把公司的账本,整个搬到了会计师的桌上。
我脑子里跳出来的,是 1934 年。
1933 年,美国出了证券法。1934 年,又出了证券交易法。这两部法律合起来,干了一件在当时看着特别不起眼的事,上市公司想把股票卖给公众,必须先请一家独立的会计事务所来审它的财务报表,然后对公众作证。
你注意那个动作,不是查账,是对公众作证。
审计这东西,骨子里从来不是检查。检查是谁都能干的,雇个内部人翻翻账本,也能叫检查。审计难在另一件事,第三方得拿到别人拿不到的内部账本,再对公众作个证,说这账是真是假。
这个作证的分量,在于签字的人要担责任。审错了,事务所要赔钱,要倒牌子,甚至会死。
就因为这个动作,会计事务所成了资本市场里最特别的一类角色。它不是政府,不是监管机构,但它干的事,是政府都干不了的。政府管得着违法,管不着这账我看过,大致是真的。而资本市场要的,恰恰就是后一句。
一个行业,只有当它必须靠一个独立的第三方说句公道话才能运转的时候,审计才会从一门手艺,变成一种基础设施。
今天 AI 行业,正在走到它自己的 1934 年。
我不是说这四家机构就是未来的四大会计师事务所。那四个具体名字,是后来几十年合并来合并去才凑出来的。我是说,独立审计这门生意、这个位置,正在 AI 行业里长出来。
OpenAI 这次交出去的东西,翻译一下就是,我把账本给你了,你帮我对公众说句实话。这跟 1934 年那批会计事务所从上市公司手里接过财报,是同一个动作。
先看这四家各自在干什么。
Apollo Research 查的问题,听着就有点瘆人,模型会不会暗中对抗开发者的意图。说人话就是,这个模型嘴上说一套,背地里是不是有别的打算。它分两个阶段,要验证四个命题,训练的时候没激励它搞颠覆、强评测和红队也没逼出它搞颠覆、内部使用的时候它没尝试过搞颠覆、还有它要是真搞了颠覆,背后的推理能不能被查出来。
METR 干两件事。一件是查 OpenAI 迄今最大的那一次强化学习训练 run 里,有没有失准行为。失准这个词,比背叛更宽,也更难查。另一件是监控评估,就是压力测试那套,之前已经试点过了。
Transluce 更绝。它不查模型,它查 OpenAI 的评估这件事本身,质量怎么样、覆盖够不够。别人审账,它审的是那些审账的人。而且它已经排了,2027 年初还要做一次大约 8 周的后续评估。
最后是 Goodfire。它直接往 OpenAI 里嵌了可解释性研究员,用自家的平台去分析模型内部,盯着训练 run 做监控、调试和对齐。
你发现没有,这四家是一层比一层深。Apollo 查模型会不会背叛,METR 查训练有没有失准,Transluce 查评估本身有没有漏,Goodfire 干脆钻到模型里面,看里面的东西长什么样。
这跟会计事务所按审计、税务、咨询分工,是一个路数。有人查账,有人查查账的人,有人钻到账本最里面去。
但真正让我觉得这事不简单的,是它背后那套治理结构,细到有点审计伦理的味道。
OpenAI 设了个安全与保障委员会,简称 SSC,挂在 OpenAI 基金会董事会下面,是个独立监督委员会。名字不重要,重要的是它有几项权力。它能看评估的全过程,收到的是没删减过的报告,还能私下跟评估员单独聊,不用 OpenAI 的研究员在场。
你品品私下这两个字。
一个被审的公司,允许审计方的人,跟自己这边的监督委员会,单独、私下地聊。这个动作,放到任何一家上市公司,审计委员会都得老脸一红。
还有分歧怎么走。评估员跟 OpenAI 有分歧了,先升级到安全顾问组和 OpenAI 高管,再谈不拢,直接提交给 SSC。最后拍板的,不是一个从 OpenAI 领工资的人,是那个独立监督委员会。
利益冲突这一块,也写得清清楚楚。Apollo 和 Goodfire 收酬金,但结果跟酬金不挂钩,你审出再难听的话,钱照拿。METR 和 Transluce 干脆不收钱,最多接受一点 API 额度或者算力。
还有一条最冷的,第三方的人参与完这次评估,得过一段冷却期,才能跳槽去别的 AI 开发者那里。
冷却期。
你见过哪家 AI 公司,把评估员离职后多久能去竞对,这种条款白纸黑字写进安全公告里的。
这些细节堆在一起,让我想起一句话,审计的独立性,不是靠一句我们很独立喊出来的,是靠这一条一条的规矩,硬堆出来的。
但我不想只给你一个爽的结论。这事还有冷静的两面。
第一面,范围有限。这一阶段只覆盖训练中和内部使用中的模型,不是所有模型都被审了。别理解成 OpenAI 把家底全晾出来了,它没有。
第二面,1934 年那个类比,是我今天拿来打比方用的,不是 OpenAI 自己说的,也不是什么行业共识。AI 审计这门生意,现在顶多算刚有个影子。
还有一层对照,就发生在几天后。11 月 16 日,加州总检察长起诉了 OpenAI,理由是监管缺位。你品品这个节奏,11 月 13 日公司自己把内部账本交出去,三天后州政府说,你这公司管得不行。
一边是自律,一边是他律。
我为什么盯着这件事不放,因为我想通了一件事。
过去大家看一家 AI 公司的安全承诺,习惯去翻它自己的白皮书,看它自己写的红线、自己组的委员会。可一个公司给自己打分,这分数能信吗。
现在有了第二把尺子。看谁在审它。审的是账本,还是摘要。审的人,能不能私下跟监督委员会说话。审完,能不能说真话,而不用怕丢饭碗。
当一个行业的安全,只能靠独立第三方背书来建立的时候,审计就不再是一门生意了,它变成了这个行业的地基。
就像 1934 年那批会计事务所,它们不是政府,却成了资本市场的信任基础设施。
今天,做信任这门生意的人,正在 AI 行业里,一个接一个地长出来。
我是智物社 · Rocky。一个在 AI 行业看了三年的人。
如果你觉得今天这篇有收获,欢迎点赞、在看、转发三连,我们下篇见。















































































