剑解观察 | AI失控前夜:当造火箭的人开始喊＂等等我们＂

一个反常识的开场

如果你在大街上随机拦住一个人，问他"你觉得哪家公司最希望AI发展得越快越好"，十个人里大概有十一个会回答：AI公司自己。

毕竟，卖铲子的人最不希望淘金热降温。

但就在这个夏天，这条朴素的常识被狠狠地开了个玩笑——一家估值逼近万亿美元、正秘密筹备IPO、年化收入即将从90亿美元飙升到500亿美元的AI公司，在自己最风光的时刻，突然对着全世界喊了一句：

"大家，能不能……稍微慢一点？"

这家公司叫Anthropic，旗下的Claude正是无数程序员深夜debug时的"赛博队友"。6月4日，它发布了一篇标题颇有末日科幻感的博客——《当AI构建自身》（When AI Builds Itself）。

《当AI构建自身》（When AI Builds Itself）原文链接：

https://www.anthropic.com/institute/recursive-self-improvement。

文章核心意思可以用一句话概括：AI正在以人类来不及反应的速度，学会自己改进自己，而这件事可能比大多数人以为的更早发生。

这不是科幻小说的开篇，这是2026年6月的财经新闻。而更有意思的是，这并不是AI圈第一次喊"暂停"——但这一次喊话的人，和上一次完全不是同一类角色。这其中的反差，才是这篇文章真正想聊的东西。

数据比末日预言更吓人

通常这类"AI威胁论"文章读起来像哲学课，但Anthropic这次很反常地甩出了一堆硬核内部数据，吓人程度堪比体检报告上突然飘红的数值。

截至2026年5月，Anthropic代码库里超过80%的代码是Claude自己写的——注意，不是"辅助写"，是主笔。两年前这个数字还停留在个位数。工程师每天合并的代码量，比2024年涨了整整8倍。员工们的自我感觉是：用上最新模型后，自己的产出大概是不用AI时的4倍。

翻译成大白话就是：公司里的人类工程师，正在从"敲代码的人"变成"审代码的人"，而真正动手的，已经是AI了。

更值得玩味的是它那款代号"Mythos"的预览版模型。这玩意儿能连续工作16个小时不带喘气的，在测试中独立挖出了上万个隐藏在主流操作系统和浏览器里、连人类安全专家几十年都没发现的高危漏洞。Anthropic的反应不是骄傲地发布会吹一波，而是吓得直接把它锁进小黑屋——只通过一个叫"Project Glasswing"的封闭计划，分享给微软、苹果、亚马逊这些"自己人"做防御性修补，压根不敢公开发布。

一个公司亲手做出了自己都不敢放出来的东西，这事儿细想挺荒诞的，约等于一个面包师烤出一炉面包，然后报警把面包没收了。

"递归自我改进"：AI界的"鸡生蛋蛋生鸡"

Anthropic警告的核心概念叫"递归自我改进"（Recursive Self-Improvement），听起来很学术，其实可以用一个生活化的比喻理解：

想象你雇了一个助理，这个助理某天突然说，"老板，我自己又招了个更厉害的助理，他还会继续招更更厉害的助理。"然后这个链条不再需要你审批、不再需要你介入，自己一路滚雪球下去。

这个概念其实并不新鲜。早在六十年前，数学家I.J.Good就提出过类似的设想：一旦机器的智能超过人类，它就能设计出比自己更聪明的机器，由此引发一场"智能爆炸"，把人类远远甩在身后。半个多世纪以来，这个想法一直停留在哲学讨论和科幻小说里，直到今天，它第一次被一家正在冲刺IPO的公司，用内部财务数据和工程指标，从抽象推演变成了一份"季度进度汇报"。

目前这件事还没发生，但联合创始人Jack Clark说得很直白：这种技术历史上从未存在过，但他相信很可能在未来两年内，甚至更早就会出现。

而最讽刺的悖论也在这里：Anthropic自己也承认，训练AI这件事，比藏一个导弹发射井容易隐蔽得多。换句话说，就算全世界达成"君子协定"说好一起放慢脚步，谁都没法确定隔壁实验室是不是关起门来偷偷踩油门。这是一道无解的"AI版囚徒困境"——大家都想踩刹车，但谁先松开油门谁就可能被甩在后面。

当然，质疑的声音也不少。有人犀利地指出，Anthropic一边喊着"快停下"，一边又把Mythos包装得神乎其神、吊足胃口地只给150家精挑细选的机构使用——这操作怎么看都像是一种高级的"饥饿营销"。毕竟，"我们的AI强大到我们自己都怕"，听起来可比"我们的AI挺好用的"更能上热搜。

历史不是第一次循环：2023年的那封信，后来怎么样了？

如果这场景让你觉得似曾相识，你的记忆没有出错。早在2023年3月，未来生命研究所就发起过一封同样轰动的公开信，呼吁所有AI实验室至少暂停训练比GPT-4更强大的系统六个月，签名者里有马斯克、苹果联合创始人沃兹尼亚克，还有图灵奖得主本吉奥，阵容堪称"半个硅谷名人堂"。

那封信收获了上万个签名，也收获了铺天盖地的媒体报道。然后呢？

然后什么都没有暂停。GPT-4之后是GPT-4.5，是GPT-5，是GPT-5.2。Anthropic自己也没闲着，从Claude 3一路迭代到如今的Opus 4.6、Sonnet 4.6，直至秘而不宣的Mythos。整个行业的训练算力投入不仅没有放缓，反而呈几何级数攀升。当年那封信最尖锐的批评者就指出过一个略带黑色幽默的悖论：渲染AI末日图景的公开信，本身也是一种关于AI威力的炒作，它把公众注意力从眼下正在发生的具体危害——比如算法偏见、信息茧房、权力向少数巨头集中——引向了一个尚未发生、也难以验证的"终极风险"。

三年后的今天，Anthropic的这封"信"看起来更像一次精装升级版：不再是外部学者和企业家联名呼吁，而是当事公司亲自下场，用真金白银的财报数据自证危险性。这既可以被解读为行业终于"知错能改"，也可以被解读为，当年那场"狼来了"的预演，如今轮到了主角亲自登台。至于这一次会不会重蹈覆辙，恐怕没有人能打包票。

全球协调的死局：囚徒困境里没有圣人

Anthropic这次倒是没有空喊口号，它提出了一个具体设想：建立一套类似核不扩散条约的全球性AI协议，配上可供各方相互核查的验证机制，确保没有人偷偷"超车"。

这个类比本身就值得玩味。核武器之所以能在某种程度上被国际社会共同约束，是因为核试验会留下放射性尘埃、震动信号这些藏不住的物理痕迹。而训练一个大模型，本质上只是在一个数据中心里跑了几个月的矩阵乘法，电费账单和云服务订单或许是唯一的线索——这种"隐蔽性"，决定了AI军备竞赛从一开始就比核竞赛更难被关进笼子里。

更现实的障碍来自地缘政治。在2023年那场争论里，反对"暂停"最常见的理由就是一句大白话：西方放慢脚步，又怎么指望其他国家也跟着踩刹车？如果只有一部分玩家收手，那暂停换来的不是全球安全，而是主动让出领先位置。这种逻辑放到今天依然成立，甚至更加尖锐——眼下全球AI竞赛早已不只是企业间的商业较量，更交织着芯片出口管制、国家安全审查、主权AI战略等一系列地缘议题。在这种背景下，"全球协调一起放慢"听起来更像是一种美好却脆弱的愿望，而不是一份可执行的方案。

与此同时，谷歌：管它什么暂停，先卷死你们再说

如果说Anthropic在踩刹车，那谷歌DeepMind这边的画风完全是另一个剧本——油门焊死了。

去年11月发布的Gemini 3，让沉寂许久的谷歌一夜之间找回了"老大哥"的存在感。今年2月，间隔仅仅三个月，谷歌又马不停蹄甩出了Gemini 3.1 Pro，版本号看起来只涨了0.1，性能却几乎是"地震级"跃迁——在号称AI界"高考"的ARC-AGI-2推理测试中，得分从31.1%直接翻倍冲到77.1%。

打个比方，这相当于一个学生上次期中考试考了31分，期末突然考了77分，还顺便把全班前几名都按在地上摩擦。

谷歌DeepMind研究负责人之一甚至放话："看不到任何天花板。"这话听着倒是和Anthropic的警告隔空打了个照面——一边说"我们怕AI太聪明"，一边说"我们造的AI还没到极限"，两家公司同时出现在新闻头条，活像一出精心安排的双簧戏。

技术细节上，Gemini 3.1 Pro采用的是混合专家（MoE）架构，意味着它在回应每一次提问时，只激活模型里的一小部分"专家网络"，而不是动用全部参数——这就好比一家大型咨询公司接到项目时，不会把全公司的人都拉进会议室，而是只点名相关领域的专家上场。这种设计让模型既能维持庞大的总参数规模，又能把单次推理的算力开销压下来，是目前几乎所有顶级大模型不约而同的选择。

更有意思的细节是，谷歌如今让Gemini根据不同用户动态生成完全不同的界面：给孩子讲微生物用大按钮和卡通配色，给成年人讲解则切换成专业密集的信息流，业内把这种范式称为"生成式UI"——AI不再只给你一段文字答案，而是当场为你的具体问题设计一整个交互界面。沃顿商学院一位教授感叹，三年前大家还在为AI能写一首关于水獭的诗而惊叹，如今他已经在和一个自己搭建实验环境的AI代理讨论统计方法了。人类与AI的关系，正在从"使唤工具"悄悄滑向"指挥同事"。

芯片巨头们的暗中下注：把"卖铲人"做到极致

如果AI模型的竞赛是台前的烟花秀，那芯片厂商的角力就是后台压着钱袋子的庄家牌局。

今年4月，Meta和博通（Broadcom）宣布把芯片合作协议续到2029年，初期承诺超过1吉瓦的算力规模——这相当于够75万户美国家庭用电的电量，全部拿去喂AI芯片。作为交易的一部分，博通CEO陈福阳干脆从Meta董事会"下车"，专职转去当芯片顾问，堪称科技圈版本的"我不当裁判了，我要亲自下场踢球"。

扎克伯格给这次合作的定位是要为"数十亿人交付个人超级智能"打地基。这话听起来宏大，翻译过来其实是：谷歌、亚马逊都在自己造芯片摆脱对英伟达的依赖，Meta当然不能干看着。

博通的财报也佐证了这场静悄悄却足够疯狂的军备竞赛——今年AI芯片营收同比增速一度逼近140%，谷歌、Meta、Anthropic、OpenAI等六家头部公司的订单已经排到了2028年。一家做底层硬件的公司，靠着给所有AI巨头同时供货，悄悄成了这轮浪潮里最稳的赢家之一，颇有点"淘金热里卖水的人最先发财"的既视感。

但这门生意也并非高枕无忧。表面风光的数字背后，是越收越紧的利润空间——为了拿下大客户的定制订单，博通往往要主动承担相当一部分研发成本，这直接压低了相关业务的毛利率；与此同时，前三大客户就贡献了博通AI业务约四分之三的营收，这种高度集中的客户结构意味着，只要其中一家巨头转向自研芯片、或是临时调整采购策略，都可能在博通的财报上掀起不小的波澜。事实上，谷歌内部已经在着手提升自研芯片的比例，亚马逊、AMD等玩家也在加速追赶。换句话说，给所有人卖水固然稳赚，但前提是这些"淘金者"还愿意继续找你买水——一旦他们自己挖出了井，水商的故事就没那么好讲了。

所以，到底是谁在裸泳？

把这几条新闻线放在一起看，会发现一幅相当精分的全景图：

模型公司一边造出连自己都害怕的东西，一边对外呼吁全球暂停，而历史已经证明过一次，呼吁本身很难真正让任何人停下脚步；

搜索巨头毫不犹豫地踩满油门，三个月迭代一次还嫌慢；

芯片厂商则在后台闷声发财，给所有参赛选手同时卖装备，谁赢都不耽误它数钱，尽管这门生意自己也暗藏着客户随时"另起炉灶"的风险；

而悬在所有人头顶的，是一道几乎无解的全球协调难题——核武器尚且需要几十年才勉强谈出一套并不完美的约束机制，AI这种藏在数据中心里、几乎无迹可寻的竞赛，又该如何被关进笼子？

这场景多少有点像一群人站在悬崖边争论"要不要往前走"，结果旁边卖登山绳和安全帽的店铺生意反而越做越大，而悬崖那头的风景，谁也没真正看清楚过。

值得追问的是：当一家公司同时扮演"踩油门最狠的人"和"喊刹车最响的人"两种角色时，我们究竟该信哪一面？当"安全警告"本身也可能成为一种营销叙事时，普通人又该如何辨别真正的风险信号和精心设计的话术？而当历史已经给过一次"狼来了"的先例，这一次的警报，究竟是真的狼，还是又一次没有后续的呼喊？

这些问题暂时没有标准答案。但可以肯定的是，2026年的AI叙事，早已不再是简单的"科技向善"或"赛博恐慌"二元对立，而是一场资本、技术、伦理和叙事权同时下场博弈的复杂棋局。

至于AI到底会不会有一天真的学会自己造自己——也许我们唯一能确定的是，到那一天真正到来之前，没有人会提前发通知。

---

你怎么看？是觉得Anthropic的警告是负责任的预警，还是巧妙的饥饿营销？欢迎留言聊聊你的判断。