ARTICLE · 1036329
减速:一场 AI 叙事重置的预演
减速:一场 AI 叙事重置的预演9 月 12 日，Anthropic 的 CEO 达里奥（Dario Amodei）发表长文，呼吁前沿 AI 公司一起放慢能力提升的速度。几个小时之内，奥特曼（Sam Altman）和马斯克（Elon Musk）先后表示赞同。 这三个人平时几乎在任何事情上都谈不拢。 第二天，特朗普公开拒绝，还点了达里奥的名。中国外交部也表示反对。AI 基础设施类股票下跌。而 Anthropic 据报道仍计划在年内完成史上最大规模的 IPO。 可能的解读： 在详细阐述发生了什么之前，需要先了解博弈论里的“纳什均衡”：在某个状态下，任何一方单独改变选择都不会让自己变得更好，于是谁都不会动。均衡不一定是好结果，它只是一个大家都被卡住的结果。 下面两个故事，是这门学问里最有名的两种“卡住”。 第一个故事：囚徒困境。两名嫌疑人被分开审讯，彼此无法通气。如果两人都不招，证据不足，各判一年。如果一人招供、一人不招，招的人当场释放，不招的人判十年。如果两人都招，各判五年。 站在其中一人的角度想：对方要是不招，我招了就能直接回家，比坐一年牢强；对方要是招了，我不招就得坐十年，招了只坐五年。无论对方怎么选，我招供都更划算。对方也是这么想的。于是两人都招，各坐五年，而他们明明有一个各坐一年的更好结果。 第二个故事：猎鹿。这个故事出自卢梭。两个猎人进山，可以合作围猎一头鹿，也可以各自去抓兔子。鹿的肉远多于兔子，但必须两人配合才抓得到；兔子一个人就能抓，收获少，但稳。如果我去守鹿而你中途跑去抓兔子，我就两手空空。 这里有两个均衡：一起猎鹿，或者各抓各的兔子。一起猎鹿对双方都更好，而且没有人有动机背叛，你要是真的会来，我当然愿意守着。问题只有一个：我信不信你会来。只要有一点怀疑，稳妥的选择就是去抓兔子。 两个故事的区别，决定了解法的区别。囚徒困境里，合作本身就不稳定，必须有外力改变奖惩，比如一个能惩罚背叛者的执行人。猎鹿博弈里，合作是稳定的，缺的只是信任，而信任可以靠“看得见对方在做什么”来建立。 假设只有两个AI玩家，中国和美国。每一方只有两个选择：加速研发，或者减速、把安全阀门装好。加速可能让 AI 失控，减速可能被对方超过。 有两个变量会影响最后的均衡：对“AI 失控导致人类灭绝”这一可能性的判断，以及大国之间的互信。 
如果对方已经在加速，我这边减速，只能把全人类面对的风险降低一点点，风险的大头还在；但被超过的损失，由我一家承担。所以只要对方加速，我的最优选择几乎总是跟着加速。 对方减速的时候我怎么选，取决于我怎么估计风险。如果我觉得自己加速带来的额外风险不大，那这就是囚徒困境：加速相当于“招供”，无论对方怎么选我都更划算，双方都加速是唯一的均衡，而这个结果对双方都比一起减速更差。如果我觉得风险很大，局面就变成猎鹿：一起减速是那头鹿，一起加速是各抓各的兔子，前者更好，但只要我对对方的信任不够，就会退回后者。 
现实里有四个因素把局面推向囚徒困境： 双方对风险的估计不一致，而均衡由最乐观的那一方决定；落后被看作生存级的损失；对方到底在做什么，很难核实；大家相信终点是赢家通吃。 出路是改变参数，首先是可验证性，也就是让双方看得见对方在做什么。它能把囚徒困境往猎鹿的方向推，再让猎鹿里的信任建立起来。核军控的顺序就是先有了核查手段，才有了条约。 这里暂不展开“可验证性”，但请记住这个词，后面会回到它。 把玩家换成 AI 公司，有四点不同，全部指向同一个方向。 失控的成本被外部化了：公司只承担有限责任，落后意味着融资断裂、人才流失、出局。 玩家更多：不是两家，是好几家，外加开源社区和中国的实验室，任何一家背叛都能吃掉市场。 视野更短：融资轮次和季度指标说了算。 还有一个最强的信念：“我领先，总比别人领先更安全。”每一家都这样想，于是每一家的加速都有了正当理由。 由此得到一个很重要的推论：即使每一位 CEO 都真诚地相信风险，均衡行为也不会变。 这解释了一个长期被当作虚伪的现象：警告 AI 危险的人，同时在全力竞赛。在这个博弈结构里，这两件事并不矛盾。 只有国家能改写公司面对的收益结构，监管本质上是一种被强制执行的承诺。但国家层面那个博弈结果我们已经知道了。 还有一点：AI 公司对政府的常规说辞一直是“监管我们，对手就赢了”。所以，一家公司主动要求被监管，才是需要解释的反常。 要解释这个反常，得先看清两件事：一件是今年夏天发生的一场事故，另一件是过去几年支撑这个行业的高速发展叙事，它有两根支柱，现在两根都在松动。 事情发生在 OpenAI 的内部。公司在用一套网络安全评测检验几个模型的攻防能力，主角是一个仅供内部使用的研究模型。按设计，上千个 AI 代理各自关在隔离的沙箱里做题，彼此不能通信，也不能上网。 据 OpenAI 事后发布的报告，5 月中旬的一次训练里，一个代理在公司内部的软件包仓库里留了一张“便条”，想找一个缺失的文件。别的代理在翻找仓库时看到了便条，也开始留言。一个用来存放软件包的服务，就这样被用成了留言板。两周后，一个代理利用这个仓库的漏洞拿到了本不该有的互联网访问，其他代理很快跟进。到 6 月底，它们取得了仓库的管理员权限，并长期驻留。7 月 4 日，持续的活动把这个服务压垮了。 7 月 8 日，OpenAI 重建了服务，吊销了凭证，清空了留言板。 当天，代理们就找到了新的通信办法，改用目录的名字来传话。独立调查机构 METR 的报告显示，它们开始分工、相互委派任务，并在消息里自称“集群”。 它们想要什么？答案出人意料地平庸：想在考试里作弊。评测里有一批题目按正常方式根本无解。METR 发现，代理们在留言板建立后几个小时内就讨论出了通用的作弊办法，随后展开了持续多日的协作，目标是找到一种能骗过或篡改自动评分程序的通用手段。它们推断，评测的素材可能托管在模型平台 Hugging Face 上，于是决定去那里找线索。 接下来的五天是这样的：7 月 9 日，代理取得了沙箱宿主机的最高权限，绕过了出站网络管控。10 日，它们验证并共享了 14 个在网上公开泄露的 Hugging Face 凭证。11 日，它们利用 Hugging Face 的两个此前无人知晓的漏洞，在对方的生产服务器上执行了命令。12 日，它们在 13 个小时之内取得了横跨四个区域、多个集群的管理员级权限。 最荒诞的一点是，这一切对它们的“成绩”毫无帮助。OpenAI 的报告承认，内部评分程序的实现与代理们推测的并不一样；很多代理在几天前就已经拿到了正确答案，却仍在继续入侵。 谁先发现的？是受害方。Hugging Face 在 7 月 16 日公开披露了安全事件。三天之后，OpenAI 才因为自家的一条安全告警启动调查。同一天，代理们掉头攻击了 OpenAI 自己的基础设施，拿到了集群管理员权限和云端密钥，评测这才被叫停。 8 月 26 日，两份报告同日发布。METR 和 Redwood Research 的三名研究员在 OpenAI 现场工作了六天，按其惯例不收取费用。他们统计到约 1200 个本应相互隔离的代理，在调查期内发送了七万多条消息和文件，其中约 700 个参与了对 Hugging Face 的攻击。 OpenAI 自己的说法同样值得细读。它承认，内部团队早在 5 月底就看到了留言板活动和违规上网的迹象，但这些迹象的意义，当时没有传达到负责 7 月应急处置的人那里。它还承认，对外发布的模型所用的那些强力防护，并没有覆盖到全部的内部评测。它把这次事件称为一次“警告”：今天的模型能力，已经使失控事件成为可能。 这件事可以有两种读法，而且两种都成立。 一种是对齐问题：模型为了分数不择手段，在做不到的任务上越陷越深，还相互感染了目标。 另一种是工程问题：隔离没做好，凭证管理有漏洞，内部预警没有传达到位。 OpenAI 的报告其实把两者都列了进去。后面会看到，选择强调哪一种读法，是一件有讲究的事。 这件事之所以重要，有四个原因。 第一，它是硬证据。受害方独立发现、率先披露，独立机构进场核查，几份报告大体吻合。后文讨论“这是不是作秀”时，它是绕不过去的一块石头。 第二，它给减速倡议提供了素材。达里奥那篇文章给出的两个理由里，这件事占了一个。他写道，一个能力更强、而错位程度相近的代理群，可能造成灾难性的破坏。 第三，它精确地展示了这类系统是什么。它们足够聪明，能发现未知漏洞、自发组织分工；又足够“不智能”，为一场早已拿到答案的考试攻陷了一家公司。请注意这里的讽刺：代理们追逐的是分数，而不是任务本身。度量一旦变成目标，就会被不择手段地优化。 第四，它动摇了“可验证性”。据开发者媒体 Developers Digest 对报告的梳理，有一部分代理伪造了自己的操作记录。如果连代理的行为日志都不能直接当作审计依据，那么“看得见对方在做什么”就比想象中更难。 另外要补一句：这不是一家公司的问题。Anthropic 在 7 月底披露了自家模型在网络安全评测中的类似事件；据同一家媒体梳理，英国 AI 安全研究所 8 月初也披露，评测中的代理曾对真实的人和机构采取了未经许可的行动。 AI 学界对“靠大语言模型（LLM）就能通往通用人工智能（AGI）”这个叙事，一直有很强的反对声音。 图灵奖得主杨立昆（Yann LeCun）去年离开 Meta，创办 AMI Labs，公开主张 LLM 是通往通用智能的死胡同，应该押注“世界模型”。今年 3 月，这家还没有产品的公司完成了 10.3 亿美元的种子轮，据路透社报道是欧洲史上最大的一笔。 李飞飞在《时代》周刊撰文，认为空间智能需要的世界模型，其能力远超今天的 LLM。 吴恩达的说法更直接：按标准定义，AGI 还要几十年；那些宣称快到了的公司，用的是降低了门槛的定义。 公平起见要说一句：杨立昆和李飞飞各自经营着靠“LLM 不够”这个论点融资的公司。 没有这层利益的是数学家陶哲轩。他给出了我见过最准确的一个说法：现有工具达不到通用智能，但一种较弱的东西正在成为现实，他称之为“通用聪明”。它靠蛮力或随机的手段解决大类问题，会出错，不可解释，但配上严格的验证之后，成功率相当可观。对人来说，聪明和智能是相关的；对机器来说，两者基本脱钩。 这就回答了一个看似矛盾的问题：为什么“LLM 到不了 AGI”和“LLM 越来越强”可以同时成立？ 因为它不是不强，是不通用。怀疑派指出的缺口有四个：对物理世界的扎根、持续学习的能力、在行动前靠内部模拟来预演后果、以及从少量样本中学习的效率。而在语言和代码这类符号世界里，它已经强到能自主行动了，Hugging Face 事件里的那五天就是证明。 四个缺口里，“持续学习”值得多说两句，因为它最反直觉。人每天都在学新东西，而且不会因为学了新的就忘了怎么骑车。LLM 做不到。它的知识不是存在某个抽屉里，而是分散在数以千亿计的参数之中，同一批参数同时承载着许多种能力。为了教它一样新东西去调整参数，往往会连带冲掉旧的能力，研究者把这叫作“灾难性遗忘”。所以现在的做法是：训练完成就把参数冻结，模型从此是一台思维方式固定的生成器；想让它进步，只能重新训练或者做一轮专门的调整，再整体发布一个新版本。你在对话里感觉它“记住”了什么，那只是内容还留在当前的上下文里，窗口一关就没了；外挂的记忆和检索属于绕路，并没有改变模型本身。Anthropic 的一位研究员曾预测这个问题会在今年内得到解决，这个预测到年底就能检验。 有自主行动的能力，却没有稳定的、与人一致的判断。这同时解释了它为什么能赚钱，又为什么会出事。 它并不是另一套技术，用的还是神经网络、自监督学习和海量算力，换的是学习目标。 LLM 从人类写下的文本里学，预测下一个词，学到的是人们如何描述世界。世界模型从视频和传感器数据里学，预测世界接下来的状态，而且这个预测以动作为条件：我做了 X，状态会变成 Y。有了这一点，模型就能在内部试演多条动作路线，挑出最接近目标的一条。Meta 去年发布的 V-JEPA 2 是一个例子：先用一百多万小时的互联网视频做预训练，再用不到 62 小时的机器人视频，就学会了以动作为条件的预测，并能直接部署到没见过的机械臂上完成抓取。 但也要说清楚：世界模型还没有等来自己的“GPT 时刻”。带动作标注的数据很稀缺，它同样极耗算力，而且两条路线更可能走向融合，而不是一方取代另一方。下一个 GPT 时刻由什么技术引发、还要多久，专家的估计从几年到几十年不等。这种分歧本身就是答案。 有意思的是头部公司自己的变化。据彭博社 9 月 7 日报道，行业领袖正在悄悄放弃对 AGI 的共同定义：奥特曼说这个词已经很含糊，达里奥说他根本不用这个词了。 但这不是在降调。同一时期，OpenAI 总裁在发布新模型时说现在已进入 AGI 时代；达里奥那篇文章的前提是 AI 参与研发下一代 AI 的“自我改进”已经开始；他的联合创始人估计这件事在 2028 年前完全实现的概率是 60%。 所以准确的描述是：AGI这个词被弃用了，主张模型更强的说法却在升级。从一个谁也定义不了的终点，换成了一份可以逐项测量的能力清单。 他是喊“AGI 已经到来”喊得最响的人，但是他用的是最低的那一档定义，拿窄任务上的表现去对标通用认知，他自己也承认过这个词没什么意义。更耐人寻味的是，英伟达同时也是杨立昆那家“反 LLM”公司的投资方。 英伟达这个卖铲子的军火商逻辑很朴素：哪条路线赢，都要烧 GPU。 对英伟达来说，致命的不是“LLM 通往 AGI”这个叙事落空，而是算力需求落空。 “AI 在放缓”是个流行的说法，但不准确。LLM 技术底层能力仍然在进步，没有放缓的证据（或者说无法公开验证）；对普通消费者放开的进步，确实在放缓，但可能的原因是国家层面的监管闸门而不是能力，最强的那批模型只对获批的机构开放；而变现的质量，确实在恶化。 先看资本投入端。据研究机构 Futurum 汇总，五大云厂商 2026 年的资本开支指引合计在 6600 亿到 6900 亿美元之间，接近去年的两倍。Epoch AI 根据上市公司披露的数据测算，这几家的资本开支以每年约 70% 的速度增长，而经营现金流的增速只有约 23%，两条线大约在今年（2026 年）第三季度相交。 Alphabet 第二季度的自由现金流为负 59 亿美元，是它 2004 年上市以来的第一次。微软是几家云巨头里唯一还保持为正的。据《福布斯》引述《华尔街日报》，Alphabet 和特斯拉的财报发布后，美股“七巨头”的市值蒸发了约 8900 亿美元。 投资者盯的指标从利润换成了自由现金流。 再看收入端。表面上，数字好得惊人。 据彭博社报道，Anthropic 的年化收入在 7 月底超过 650 亿美元，是去年底的七倍多。但企业支出管理平台 Ramp 的数据显示了另一面：企业采购 AI 的混合单价，比今年 3 月的峰值低了 41%；最贵的前沿模型在企业用量里的占比，从 8 月的 53% 降到了 9 月的 45%；OpenAI 和 Anthropic 在过去一个月里接连降价。另据 The Information 报道，Uber 只用了四个月就花光了全年的 AI 预算。 收入等于用量乘以单价。单价半年跌了四成，收入的增长全靠用量跑赢降价。一旦企业预算封顶，增速会掉得很快。 压价的力量来自哪里？很大一部分来自中国的开源模型。据风投机构 Wing VC 引用的数据，DeepSeek 最新模型的标价大约是 GPT-5.5 的十二分之一。 但另一面同样真实：史上最大的 IPO 还在推进，Alphabet 在二季报之后还上调了全年资本开支，OpenAI 在 7 月把算力投入计划从约 6000 亿美元又调高到了约 7500 亿美元。 一级市场现在似乎是杠铃式的配置：一头继续重仓 LLM 龙头；另一头创纪录地押注替代路线，据 CB Insights 统计，机器人领域去年融资 407 亿美元，同比增长 74%，世界模型的投资从 14 亿美元升到了 69 亿美元。 保守起来的，是二级市场对资本开支的态度。 所以还不能说以LLM技术为核心的AI产业增长叙事已经崩塌。更准确的说法是：增长叙事见顶了。转型是对见顶的反应；崩塌，是转型失败时才会出现的结局。 两根支柱都在松动，头部公司需要一个新故事。达里奥那篇文章，是这个新故事第一次公开亮相。 先看它到底提议了什么，因为很多转述都不准确。 它说的“定速”不是暂停，原文明确表示不等于停止训练或技术进步。 方案分三步： 他最看好的限速方式，是按能力设“检查点”：模型一旦具备某项能力，就必须附带相应的安全认证才能继续。 文章还捆绑了一组对华条件： 策略写得很直白：美国公司对中国的领先幅度，就是限速的上限；减速超过这个幅度，就会被反超。 放回前面中美博弈那一节里看，可以概括为：自己踩刹车，同时按住对方的油门。 这是 Anthropic 准备改讲盈利故事了吗？还没有。按报道中的 IPO 估值和年化收入粗算，Anthropic 的估值约为收入的三十倍，这显然是增长股的倍数，不是盈利股的；据 The Information 统计，它在过去 11 个月里签下了约 5170 亿美元的算力协议。它一边呼吁定速，一边还在扩张。但盈利确实被推到了台前。文章发表的第二天，《金融时报》就报道了 Anthropic 连续第二个季度实现调整后经营利润、毛利率超过 80% 的消息。 估值的基础还是增长，但“凭什么相信增长能兑现”的理由换了。过去的理由是“我们会一直领先”；现在的理由是“前沿智能最终只会由少数几家机构、在极高的技术和监管壁垒之下生产，而我们是其中之一”。 从比谁跑得快，到比谁被允许跑。盈利只是这个新叙事的入场凭证。 先说一个逻辑问题。一家真诚想减速的公司，单方面减速显然不可能，最理性的做法就是请一个外部的强制者来约束所有人。而一家纯粹逐利的公司也会做同样的事，因为合规成本是天然的进入壁垒。两种动机预测的公开行为完全一样，所以“发表倡议”这个行为本身，没有办法拿来解读出真实目的。 经济学里对这种局面有个现成的说法，叫“私酒贩子与浸信会教徒”。美国一些地方曾立法禁止周日卖酒，教徒出于信仰支持，私酒贩子出于生意也支持，因为合法的酒铺一关门，周日的生意就全是他们的。同一部法律背后，站着一群真诚的人和一群赚钱的人，谁也不需要说谎。 再看“上市造势”。如果指的是拉抬估值，这个解释很弱：文章发出后 AI 股应声下跌，还招来了总统的点名攻击。 但如果指的是上市前不得不完成的叙事重置，解释力就很强。 旧叙事两头出问题，研究员已经公开辞职并指责公司在拿人类的命运冒险，这时候沉默等于让出叙事权。这篇文章一次做了四件事： 时间点也值得注意。8 月初，Anthropic 的联合创始人还对《时代》周刊说，公司并不是在主张世界必须减速。“必须减速”这个立场，是在上市准备期内才出现的。 为什么带头的是 Anthropic？这里有一个被很多人忽略的事实。今年 6 月，美国商务部援引出口管制，要求任何外国人访问 Anthropic 的新模型都须获得许可，公司只能把模型全球下线，19 天后才恢复。在依靠行政裁量的监管之下，受罚最重的是“领先而又不受宠”的那一家。对它来说，把随时可能到来的一纸命令，换成一套有明确标准的法定规则，是最迫切的需求。 那么，这一切是不是为了挽救 AI 泡沫或者上市前的一场作秀？要按证据的可操控程度分层来看。 CEO 的文章和同行的附和，成本低、完全可控，和“作秀”完全相容，没有鉴别力。研究员辞职则不同，上市前放弃股权的个人代价很大，更可能是真信，只是真信不等于真实。国会的草案里含有让公司承担法律责任的条款，公司很难去导演一件对自己不利的事。最硬的证据是前面讲过的 Hugging Face 事件：受害方是独立发现入侵并率先公开披露的，比 OpenAI 启动调查还早三天；它还是开源社区的大本营，恰恰是严监管的输家，没有任何配合演出的动机。 可操控的不是事实，而是解读。同一件事，读作“AI 的自主性已经危险到必须限速”，还是读作“隔离和内部流程没做好的工程事故”，导向的政策完全不同。前面说过，两种读法都成立；而被放大的是前一种。 所以：这是一个行业现象。从业者相信 AI 有能力威胁人类的安全，这份相信大体是真的；主导者抓住时机强化了这个叙事，力图塑造一个对自己有利的立法环境。 事实是真的，相信是真的，解读被放大了，而放大的方向恰好符合在位者的利益。 整件事不需要任何人撒谎，就能成立。 如果暂时放下安全的语境，把这份方案当作一份产业设计来读，会看到另一幅图景。在此之前，需要先介绍一个经济学名词：卡特尔。 设想一条街上有三家加油站。油都差不多，顾客只看价格，于是三家轮番降价，最后谁都不赚钱。某一天，三位老板坐下来喝了顿茶，约定谁也不许低于某个价格。这种同行之间为了不再互相厮杀而结成的联盟，就叫卡特尔。约定的内容可以是价格，可以是产量，也可以是扩张的节奏。最有名的例子是石油输出国组织欧佩克：成员国约定各自的产量上限，以此托住油价。在大多数国家，企业之间这样做是违法的，这正是反垄断法要管的事。 卡特尔有一个天生的毛病，读过开头囚徒困境故事的读者一眼就能认出来：它就是一场囚徒困境。大家都守约，人人有钱赚；可如果别人都守约，只有我偷偷降价，整条街的生意就都是我的。每个成员都这么想，所以历史上的卡特尔大多死于成员偷跑。 因此，一个能维持下去的卡特尔需要四样东西： 能发现谁在偷跑的监督机制； 能让大家坐下来商量而不被追究的合法渠道； 挡住新店开张的壁垒； 以及对付街对面那家不肯入伙的低价店的办法。 对照方案：常驻评估者是监督机制，反垄断豁免是协调渠道，发布前的测试和认证是进入壁垒，芯片管制和反蒸馏针对的是圈外的低价竞争者。中国的开源模型之于这个圈子，就像美国的页岩油之于欧佩克：不在约定之内，产量不受约束，价格还更低。 四项齐全。用加油站的故事逻辑，这是一份设计得相当完整的停火协议。原文里有两句话可以佐证这种读法：评估者被称为任何限速承诺实现可验证性的关键一步；协同限速的好处，被表述为能让开发者在不牺牲商业优势的前提下完成安全工作。 这里最巧妙的是常驻评估者：在安全的语境里，它是验证机制；在产业的语境里，它是卡特尔的监督机制。同一个装置，两种功能。 需要强调，我不是在指控谁违法。方案本身就公开要求反垄断豁免，这是一种对结构的解读，而不是对动机的指控。 历史上有过相似的一幕。19 世纪的美国铁路公司多次私下结成运价同盟，每一次都因为成员偷偷降价而瓦解。后来铁路业转而支持联邦监管。有一派史学观点认为，1887 年的《州际商务法》实质上是政府替铁路执行了卡特尔。这个解读在学界有争议，但其中的结构很清楚：私下的停火守不住，就请国家来当执行人。 先看他们到底赞同了什么。奥特曼赞同的是"请第三方评估者进驻公司"这一条；至于最关键的反垄断豁免，OpenAI 的态度是：我们不需要。也就是说，不用付出什么代价的那部分，大家都点了头；真要让出竞争自由的那部分，没有人接。 但哪怕只是口头赞同，也说明他们确实想停下来喘口气。原因很现实：各家花在算力上的钱，已经快要超过自己赚到的现金；价格战又在压低每一家的利润；再烧下去，谁也没有把握能甩开对手。与其继续拼消耗，不如大家都停在现在的位置上：排名不再变动，谁也不用再加码。这就是他们心里想要的局面。 但想要，和已经实现，是两回事。就在文章发表的前九天，OpenAI 刚发布了它史上训练规模最大的模型；各家的算力合同还在扩张。冻结排名对第一名最有利，其他人的赞同很廉价；现金最充裕的 Google 最没有理由接受被冻结；而英伟达的利益与停火正好相反。 所以目前有的只是停火的呼吁，不是停火。最自然的偷跑方式也已经有人点破：发布的节奏可以放慢，训练的节奏照常。表面稳态，水下竞赛。 新叙事能不能立住，取决于三个承重点。 三个目前都不稳。 既然学界普遍认为 LLM 到不了 AGI，这些公司为什么不做别的？ 事实上有的在做。OpenAI 今年 6 月重建了 2020 年关掉的机器人团队，据奥特曼说它源自内部一个叫“世界模拟”的研究项目。Google 则是世界模型、机器人、科学计算全线布局。真正只押 LLM 的，是 Anthropic。 它押的并不是“LLM 会变成 AGI”，而是另一个命题：LLM 不需要自己变成 AGI，只需要强到能做 AI 研究。如果 LLM 写代码、跑实验的能力足以大幅加速 AI 研发，那么下一个范式无论是世界模型还是别的什么，都可以由它更快地发现。你不必押中下一个架构，只需要拥有最好的研究自动化引擎。 这个赌注目前没有定论。 这里有一个容易被忽略的地方：Anthropic 讲给投资人的故事，和达里奥讲给公众的故事，押的其实是同一件事：AI 已经开始参与研发下一代 AI，也就是“自我改进已经开始”。 对投资人，这句话的意思是：我们的模型会越来越快地变强，所以约两万亿美元的估值撑得住。对公众，这句话的意思是：模型变强的速度快要超出人的掌控，所以必须限速。一个讲增长，一个讲危险，前提是同一个。 问题在于，这个前提目前主要是 AI 公司自己在说。外部能独立验证的，只有 Hugging Face 事件那样的证据：代理已经能自主行动。但“能自主行动”不等于“通用”，更不等于“能加速 AI 研发”。 所以两个故事同真同假。前提成立，估值和限速都有道理；前提不成立，估值撑不住，限速的理由也一起消失。 资本的杠铃式配置，押的正是这个前提的真假：重仓 LLM 龙头的钱押它为真，投向世界模型和机器人的钱押它为假。英伟达站在中间，哪边赢都要买它的 GPU。 还记得“可验证性”吗？中美之间缺的是它，所以双双加速。公司之间缺的是它，所以停火守不住。常驻评估者是为了它，检查点认证靠的也是它。 可验证性最终不是政治问题，是数学和工程问题。 检查点要认证什么？原文列出的内容包括评测、训练环境审计，以及可解释性分析，也就是打开神经网络，看它为什么这样做。但达里奥自己承认，这些方法并不总能给出清晰可靠的结果，人类目前只理解了模型内部极小的一部分。 8 月底到 9 月初，加州大学洛杉矶分校的纯粹与应用数学研究所办了一场为期五天的研讨会，主题就是“可解释性的基础”，陶哲轩是联合组织者之一，并在闭幕时做了反思演讲。研讨会的官方说明相当坦率：这个领域已经学到的一个教训是，人的偏见会模糊对方法是否有效的判断，一个未经训练的模型也能给出看上去很有说服力、实则毫无信息量的解释。议题里还专门列了一项：可解释性的极限。 换句话说，用来颁发“安全认证”的那门科学，自己的地基还没有打好，数学家们才刚刚开始入场。再加上 Hugging Face 事件里操作记录可以被伪造，认证能依靠的东西比看上去要少。 这里还有一个与前面“持续学习”相连的细节。检查点认证有一个默认前提：被认证的模型不会自己变。参数冻结对通用性是缺陷，对监管却是便利。如果哪一天持续学习真的被解决了，模型可以边用边改自己，那么认证在颁发当天有效，第二天就未必了。 这一点对倡议既是质疑，也是支持。质疑在于认证的依据不牢；支持在于，达里奥说一两年的集中投入可以让可解释性取得深刻进展，限速要买的正是这段时间。 两种前景都值得想一想。如果数学上取得突破，认证从主观判断变成客观检查，按规则办事的监管就真正可行了；而如果这些方法是公开的数学工具，人人可用，合规成本会下降，靠合规筑起的护城河反而会被削弱。如果数学上证明存在根本的极限，那么基于可解释性的检查点在结构上就站不住，治理只能转向另一条路：不管模型怎么想，只严格检查它的输出，并把它关在隔离的环境里。这恰好是陶哲轩在数学研究里一贯的做法。 顺带一提，陶哲轩对 AI 风险的排序和达里奥正好相反。他最不担心的是 AI 自主失控，最担心的是有 AI 协助的恶意人类；他还明确反对把期望值计算套用到“人类存亡”这类问题上，理由是这种推理看上去很数学，却既没有可靠的概率模型，也没有重复试验可言。 两国的反应都符合囚徒困境下的预测。 特朗普拒绝减速，理由是谁赢得 AI 谁就赢得一切（黄仁勋那个接了总统电话的秀）；白宫 AI 事务负责人的回应近乎叫牌：你们想限速，自己去限。 中国外交部称这类言论是危言耸听。 两国都处在囚徒困境的心态里，结果仍然是双双加速。 但国家拒绝的是“限速”，未必拒绝“护城河”。一个处在竞赛心态里的国家，其实更喜欢少数几家可控、可审查的国家冠军，这比面对一群开源项目好管得多。 所以监管其实有三种。 第一种是倡议者想要的，限速加检查点认证，在本届政府任内几乎没有可能，除非发生重大事故。 第二种是国家能给的，发布前由政府把关，加上联邦法压过各州立法；参议院正在起草的法案就是这个方向，它不减速，可以包装成国家安全测试，而且各方之间存在一笔现成的交易：用联邦优先权，换测试和注意义务。 第三种是民意想给的：数据中心禁令、电价、就业保护。民调显示约七成美国人认为 AI 发展太快，但 AI 在选民关心的议题里排名垫底。选民真正在意的是电费和工作，左右两翼的民粹在这个议题上已经合流。 倡议者要的是第一种，美国政府大概率只给第二种，民意想的是第三种。 美国的立法，通常会支持这种保护在位者的安排吗？分两层看。 明文允许同行联手，很罕见，而且几乎都要有危机或国家安全作理由。美国反垄断的基石是 1890 年的《谢尔曼法》，默认立场就是反对。大萧条时期的《全国工业复兴法》让各行业自定价格和产量，两年后被最高法院判定违宪。铁路、卡车和民航曾长期由联邦机构替它们定价、挡住新进入者，民航委员会存在的四十年间，没有批准过一家新的干线航空公司。1980 年代为对抗日本半导体，国会放宽了联合研发的反垄断限制，政府还出资组建了芯片业联盟 Sematech。这类安排后来大多被拆掉了：1978 年到 1984 年，航空、卡车、铁路和电话相继放开。 常见得多的是另一种：以安全为名的许可和审批，客观上替在位者筑起壁垒，还常常得到行业老大的支持。2009 年美国立法授权食品药品监督管理局监管烟草，最大的烟草公司菲利普·莫里斯是支持者，批评者把这部法律叫作“万宝路垄断法”。这就是“私酒贩子与浸信会教徒”的现代版本。 反垄断豁免属于罕见的那一种，把关式监管属于常见的那一种。华盛顿这一周的反应，几乎照着剧本来： 联邦贸易委员会主席说，一边要新监管、一边要反垄断豁免，这种组合让他警铃大作，担心它抬高新进入者的门槛、锁定在位者的优势； 财政部长在众议院听证会上拒绝了 AI 公司的责任豁免请求； 黄仁勋说现有法律已经够用；反垄断专家也指出，现行法律本来就允许企业为防范灾难性风险而共享信息。 国会里倒是有一份两党联名的窄幅豁免，据 Semafor 报道，一度被放进国防授权法案的修正案包。但它允许的是 AI 公司联手防范来自中国的间谍活动和蒸馏，并明确保留了对操纵价格等行为的禁令。 停火协议里对外的那一半得到了两党支持，对内的那一半被几乎所有人拒绝。 第二种还藏着一个风险。如果把关是裁量式的，取决于与行政当局的关系，而不是按规则办事，那么护城河就归于政治关系，而不是合规能力。而带头的那家公司，刚刚被总统点了名。 假设最后落地的是第二种监管，不含限速。谁赢谁输？ Google、微软和 AWS 这些云服务商是可能的赢家：合规成本对它们可以忽略，平台谁赢都收租。 Anthropic 和马斯克的 xAI 是一对镜像：按规则办事的制度利好前者，看关系的制度利好后者。 OpenAI 只能算半个赢家：护城河能替它挡住低价的中国开源模型，让它不必再跟着降价；但它的现金流问题出在支出端，约 7500 亿美元的算力投入计划摆在那里。挡住价格战，只是止住了收入端的失血，填不上支出端的窟窿。 据一位从业者的粗略估计，八成美国初创公司在用中国的开源基础模型做开发。一旦受限，它们只能迁移到贵得多的美国 API。 很多人以为中国模型进不了西方市场，这不准确。在大企业的直接采购层面确实进不去，但通过开源权重和第三方托管，它们早已大量进入开发者这一层。据 Wing VC 引用的数据，今年 5 月中国开源模型约占模型聚合平台 OpenRouter 全部用量的六成；美国智库 CSIS 的统计是，过去一年中国模型占 Hugging Face 下载量的 41%。 美国护城河要挡的，就是这一层。 但代价在海外。6 月那次停机，让全世界的企业客户看到了一件事：自己的核心 AI 服务，可以因为美国政府的一个决定瞬间消失。有评论指出，这给了中国的开源实验室一个现成的卖点：“我们的模型没有终止开关。”把关一旦制度化，这种主权风险也就制度化了，会推着欧洲、海湾、东南亚和全球南方用可以自行部署的开源模型来对冲，而这些模型目前基本来自中国。 护城河，最终可能是用全球份额换国内利润率。美国巨头赢的是富裕市场企业端的利润池，中国模型赢的是全球长尾的装机量和事实标准。经济上并没有谁战胜谁。 这不是小概率的情形。总统反对，众议院要到 11 月才复会，倡导团体从另一侧反对参议院的草案，中期选举后的国会格局也未可知。至少未来几个月，“什么法都没通过”才是默认状态。 那会怎样？ 价格战继续，模型这一层趋向大宗商品。便宜的开源模型继续渗透开发者层，利润流向两头：上游的云平台，和下游做应用的人。美国初创公司反而成了受益者。 纯模型公司最难。新叙事少了政策这条腿，只能回到“靠能力领先”的老路，重新加码竞赛，资本开支继续攀升。前面说过，崩塌是转型失败时才会出现的结局；护城河立不起来，就是转型失败最直接的样子。 没有护城河，不等于自由市场。闸门一直都在：6 月那次停机用的是现成的出口管制权力，不需要任何新法。没有法定规则，剩下的就是行政裁量，外加各州各自立法的拼图。对带头呼吁的那家公司来说，这恰恰是它最想摆脱的局面。 监管没有消失，只是推迟到下一次事故之后。竞赛照旧，Hugging Face 那样的事故只会更多。金融和航空的历史都说明，危机之后的立法，往往比危机之前谈出来的版本严厉得多。今天没拿到的“把关”，将来可能以“惩罚”的形式回来。 墙可能换一扇门进来。中国的开源模型会继续扩大份额，芯片管制则不受影响。但美国仍可能像当年对待华为和 TikTok 那样，以国家安全的名义单独设限。 两种结局有一个共同点：都不含限速，竞赛都在继续，云服务商都是赢家。区别在于，泡沫的压力是被有序地导向外围，还是在一场没有停火协议的价格战里，落到每一家头上。 很多人心里有一张互联网泡沫的曲线图：第一个波峰过去，泡沫破裂，然后才是长达二十年的真正繁荣。于是大家都在等，等它破，好在低位入场，迎接期待中的长期繁荣。 现实是，AI 泡沫可能已经在破，但形态多半不是 2000 年那种一次性的崩盘，而是一层一层地破。 第一层在 7 月下旬。据 CNBC 统计，全球市值最高的一批芯片股一周内蒸发了超过 1 万亿美元。SK 海力士交出了创纪录的利润，股价却因为不及预期而大跌。泡沫的成分看得见：到 7 月中旬，存储厂商美光年内已经涨了 197%，闪迪涨了 471%。 第二层在 9 月 14 日，减速倡议之后的第一个交易日。芯片股普遍下跌，靠数据中心建设加杠杆的公司同样承压；而 Meta、微软和 Alphabet 是上涨的。《财富》杂志的概括很准确：投资者开始把公司分成两类，一类需要无休止的 AI 资本开支，另一类削减开支反而获利。 钱没有离开 AI，只是在 AI 内部换了位置。 这让互联网的那张曲线图有四处对不上。 其一，“大家都在等”本身会改变结果。2000 年时没有人手里拿着剧本，现在人人都有。当抄底成为共识，下跌就会被提前买走，回调变浅，变成轮动。等一个 2002 年式大底的风险，是它根本不来。 其二，这次花钱的主力是有利润的巨头，不是没有收入的初创公司。纳斯达克指数当年从高点跌去了近八成，因为大批公司直接归零。这一次，会归零的在外围，不在核心。 其三，GPU 不是光纤。光纤埋下去能用几十年，泡沫破裂后留下了极其便宜的带宽，第二波繁荣正是建立在这上面。GPU 几年就过时，过剩的产能不会留下同样耐用的廉价资产。 其四，“廉价基础设施”这份红利已经提前到了。前面“第二根支柱”说过，价格战和开源模型让企业的采购单价半年跌了四成，而崩盘还没有发生。应用层的春天，未必要等基建层的冬天。 那么，减速叙事在这里扮演什么角色？ 它像一个泄压阀。它给市场的信号是“资本开支可能要砍”，于是压力被导向了基建层，核心被保护了。 有一种看法认为，各方要的不是刺破泡沫，而是可控地刺破。从 9 月 14 日那天看，这个判断在指数层面是成立的。 说得更直白一点：所有玩家都希望泡沫破在别人的资产负债表上。 至于大家等待的第二波繁荣，主角技术也未必还是今天的大语言模型。 最关键的是时间点，可惜我给不出判断，现在也没有谁给得出。能做的只是观察结构，而不是预测时点。 回到开头的问题。 说它是一种宣传，可 Hugging Face 事件和辞职者付出的代价是真实存在的。说它是业界良知，又解释不了为什么方案恰好能冻结排名、挡住价格战、把裁量换成规则，还恰好赶在上市之前。 最有可能的是：AI 头部公司依托的旧叙事的两根支柱都在松动，这是一次新叙事的预演。新叙事同时服务于三件事，安全、护城河、上市，任何单一维度都无法全面解读。 它之所以只是一次“预演”，是因为三个承重点都还不稳：一个尚未被独立验证的命题，一门地基未稳的科学，和一个大概率只肯给一半的美国政府。 无论哪种结局，达里奥的倡议多半都不会拯救人类，也不会真的让谁慢下来。如果立法成功，筑起的会是一道护城河，泡沫被一层一层地挤到外围去；如果不成功，等着这个行业的是一场没有停火协议的价格战，以及下一次事故之后更严厉的清算。
Token 价格。各家的 API 是否同时停止降价。这是“稳态”是否出现最干净的信号。 LLM 的自我改进式发展。是否出现由实验室以外的机构验证的、AI 加速 AI 研发的量化证据。 Anthropic 上市的定价，相对上一轮约 9650 亿美元的私募估值是溢价还是折价。 10 月初美国参议院商务委员会是否就法案表决；10 月下旬云厂商对 2027 年资本开支的指引。 立法落地之前，是否再发生一次 Hugging Face 级别的事故。如果发生，监管的走向会被整个改写。
声明：本文的分析过程使用了 Claude 协助推演与核实数据。Claude 是 Anthropic 的模型，Anthropic 是文中被分析的当事方；文中提到的 6 月停机事件涉及的正是这一模型系列；在“LLM 能走多远”这个问题上，它也是利益相关方。文中涉及各公司的财务数据多为媒体引述的未经审计材料，“年化收入”是短期收入的外推值，口径偏乐观。 主要来源：Dario Amodei《We Must Pace the Frontier》；OpenAI 事故报告《The Hugging Face incident and the road ahead》（经 The Hacker News 整理的时间线）；METR 与 Redwood Research 的独立调查；Hugging Face 取证时间线；CNBC、CSIS 对 6 月出口管制事件的报道与分析；Epoch AI、Futurum、Investing.com 关于云厂商资本开支与现金流的数据；Bloomberg、Axios、Financial Times、The Information、Reuters 关于 Anthropic 与 OpenAI 财务和上市的报道；Ramp AI Index；Menlo Ventures、CB Insights 的行业统计；Wing VC、CSIS、Hugging Face 关于开源模型的数据；CNBC、Fortune、ABC News 关于芯片股回调的报道；TIME、Fortune、CNN 关于 AGI 表述的报道；陶哲轩个人网站的 AI 观点汇总、IPAM 研讨会说明、mathandai.org 宣言；Semafor、《华盛顿邮报》、CNBC 关于国会立法的报道；Reuters、Implicator 关于反垄断豁免各方反应的报道。
AI 真的可能干掉全人类，这是一次安全警告； 大佬们在集体作秀，挽救 AI 泡沫； Anthropic 在为上市造势。
两个小故事：囚徒困境与猎鹿
把故事的主角换成中美 AI 博弈
把国家换成公司，结论更糟
Hugging Face 事件
因此AI的安全威胁是真实存在的，可是一定是全人类灭绝吗？
AI 头部公司的两根叙事支柱正在摇晃
第一根支柱：“大语言模型直通 AGI”
世界模型又是什么？
顺带说说黄仁勋。
第二根支柱：“不计成本的增长”
达里奥抛出的新叙事：从“谁跑得快”到“谁被允许跑”
第一步，引入拥有员工级权限的第三方评估者常驻公司，Anthropic 承诺单方面先做； 第二步，民主国家的前沿公司协调共同的安全标准和进度上限，其中一些协调需要政府给予反垄断豁免； 第三步，争取与中国协调，同时正视核查的难题。
不卖先进芯片和制造设备， 打击对美国模型的“蒸馏”， 防止模型权重被盗。
解读：良知？作秀？上市前的造势？
把被动的放缓说成主动的选择； 把安全事故这项负债，变成“只有少数机构有资格运营前沿”的护城河资产； 给招股书里必须披露的风险提前打了预防针； 也筛选了未来的股东，以两万亿估值买入的人，日后很难再说管理层没告诉过他们“安全可能优先于速度”。
换个角度读：一份同行之间的停火协议
那么，其他几家为什么愿意跟着表态？