ARTICLE · 1118916
美国白宫给 AI 立了规矩,工厂跑了三十年,多数跑成两张皮
美国白宫给 AI 立了规矩,工厂跑了三十年,多数跑成两张皮
签字之前，特朗普说这些公司"会自我监管"，还说这份协议"几乎像一部宪法"。 我看了内容，看到第二条就停住了。 "指定一个独立的董事会委员会，接收内外部审计方的报告。" 这句话，翻译成工厂的语言，叫管理评审。 协议的核心是四条。 请一个独立的外部审计方，评估公司的 AI 控制和监控系统是否按预期运行。 董事会设一个独立委员会，定期接收内外部审计方的报告。 在训练和部署期间监控模型的能力与"对齐"，防止模型以非预期的方式访问技术系统。 再建一个内部团队，确保所有控制、监控和检测都按预期运行。 一条一条看下来，我越看越熟。 第一条，独立的外部审计方评估"系统是否按预期运行"——这是第三方认证审核。审核员上门，翻记录，看现场，开不符合项，限期整改，到期回来复查。工厂为这三天的复查，通常要准备三个月。 第二条，董事会下设独立委员会接收审计报告——管理评审。ISO 9001 的明文条款，每年至少一次，管理者代表向最高管理者汇报体系运行情况，然后定资源往哪投。 第三条，监控模型的能力与对齐，防止非预期访问——过程控制。首件确认、过程巡检、SPC 控制图，干的就是这一件事：在东西做坏之前，先知道它开始偏了。 第四条，内部团队确保"所有控制、监控、检测按预期运行"——内审员。 四句话，把 ISO 9001 的四根柱子搬全了。 质量控制这套东西的前提，从一百年前就是"人不完全可信，所以得另找一拨人来验"。任何一个行业，一旦开始担心自己的产出不可靠——不管是轴承还是神经网络——最后都会走到同一个解法上：找一拨不在生产线上的人，回头查生产线上的人有没有按规矩干活。 协议里还有个细节，比四条要求更要紧。 特朗普给它定的性质是morally binding——道德上有约束力。 没有法律强制力。 这个说法，制造业有个对应版本，叫"自愿性认证"。 ISO 9001 没有任何法律效力。可全世界的工厂都在过。客户要求。汽车主机厂把 IATF 16949 写进供应商准入条件的那天起，"自愿"两个字就作废了。 三十年前中国工厂开始过 ISO，也没人强制，是外贸订单逼的——外商要看证书。第一年，很多厂突击三个月把证拿到手。第二年，证书挂在墙上，体系躺在柜子里。第三年，客户来验厂，车间主任提前一周通知全线。 所以这份 AI 协议有没有牙——能不能真的约束住人——问的方向就错了。该问的是：谁先把它写进采购条件。 等银行开始要求"你的风控模型有没有第三方审计报告"，等招标文件里多出这么一行，等大企业的供应商合同里加上这一条——那时候不需要任何法律，市场自己会把门槛立起来。 法律还没动，订单先动了。这条路制造业走了三十年。 这份协议也不是凭空来的。几家公司都报告过事故——模型自己找到路径，访问了不该访问的系统。OpenAI 还叫停了一个新版本的发布，理由是内部测试没过安全线。 出了事才补规程，这个顺序工厂太熟了。安全规程通常比事故晚半年，体系文件通常比客户投诉晚一个季度。 四条里我最在意的是最后一条。 "确保所有控制、监控和检测按预期运行。"这句话一字不改，就是内审员的岗位说明书。 制造业对这个岗位的结局，看得太清楚了。 第一年，它说话是算数的。可以直接向最高管理者汇报，能开不符合项，能卡住一个流程不放行。 第二年，业务压力上来。生产和销售要赶单，这个团队开始被要求"配合业务节奏"，查出问题先私下沟通，别急着开单。 第三年，它的主要工作变成了帮公司准备审核材料。 我在工厂见过很多次。质量部到底握的是建议权还是否决权，这件事决定了它是一道闸门，还是一个流程节点。只有建议权的质量部，时间久了就变成一张纸。 也见过写得漂亮却没人执行的体系。四百页的体系汇编，在车间里抵不过一张贴错了的过期作业指导书——因为工人看的是墙上那张，不是柜子里那本。 协议里反复出现"独立"两个字：独立的审计方，独立的委员会。制造业的经验是，独立写在纸上最容易，难的是它第二年还在不在。 写到这我想起一件事。 制造业当年建体系，也是从"自愿"开始的，也是从"独立"开始的。三十年后回头看，有的厂真的靠它把不良率压下来了，有的厂证书到期就不续了，更多的厂停在中间——体系在跑，车间在忙，两套程序各走各的。 分野在哪，三十年后回头看很清楚。 买方真的在意，质量部就有否决权；买方只看价格和交期，质量部就只能建议。同一个岗位，两种命运，取决于谁在对面。 AI 行业现在站在这条路的起点上。协议签了，四条控制定了，"独立"两个字写了三遍。 接下来会发生什么，我在工厂里已经看过很多遍。 AI 公司会不会照做，三年后才知道。但它接下来会遇到什么，我大概能猜个八九分。 文件写得漂亮，执行是另一回事。审核年年通过，问题照样出。一开始所有人都认真，后来慢慢变成走流程。一套体系从"用来改问题"退化成"用来应付检查"，中间不需要有人使坏。 体系管不管用，跟文件厚不厚没关系。就看两件事：有没有人真的在意，在意的那个人有没有权力说"不"。 这套东西最后长成什么样，不由硅谷决定，由买方决定。 我做了二十年质量，换过几个行业。这套剧本我看过很多遍——这一次只是换了个行业，再演一遍。
你在的工厂，体系是拿来改问题的，还是拿来应付检查的？ 评论区聊聊你见过最离谱的一次审核。 后面我会接着写这套体系在工厂里的真实运行。关注「旭阳暖意」，别错过。
美国白宫 9 月 29 日把六家 AI 公司的老板请了去，签了一份协议。谷歌、Anthropic、Meta、OpenAI、xAI、英伟达，一个一个签了名。