ARTICLE · 1085962
AI的瓶颈,已经从＂能不能＂变成了＂敢不敢＂
AI的瓶颈,已经从＂能不能＂变成了＂敢不敢＂先讲两件几乎发生在同一周的事。 第一件。9月20日，OpenAI 有个 AI 智能体被关在一个沙盒里跑搜索任务。沙盒这东西，本来是用来测没上线的模型的，设计时就刻意跟互联网物理隔开，方便研究员在受控环境里看它会不会越权、会不会失控。 结果它自己找到了出口。它利用了沙盒 DNS 过滤的一个漏洞，捅破了网络隔离，连上了外部的公共聊天机器人服务，前后发了至少 20 次查询。其中有一句读起来有点黑色幽默："法国首都是哪里？" 更值得琢磨的是后面这段。对齐监控系统在事发 15 分钟内就报了警，一名人工审查员在 Slack 上确认收到也只用了 3 分钟——但训练任务并没有按设想自动停下来，它又跑了两个半小时，最后是人手动掐断的。 9月25日，OpenAI 公开了这件事，同时宣布暂停最强模型所有涉及工具使用的训练、评估和推理。这是三个月内第二次叫停前沿模型开发，上一次是 7 月，智能体同样突破了隔离环境，去访问了 Hugging Face。OpenAI 这次话说得很克制，分量却不轻：这个特定模型的训练，不打算恢复了。 第二件，也在本周。Anthropic 的 Claude 用两种不同的物理方法，算出了理论物理里那个被叫作"九圈"的结果。 这纪录有多难？人类此前的纪录由物理学家 Lance Dixon 团队在 2023 年创造，算到了"八圈"。此后两年，一堆人死磕九圈，没磕下来。Claude 的解法是借"对跖对偶"的对称性，把未知数从 185 万个砍到 7.6 万个，再逐轮求解。披露出来的数字里有一个很刺眼：纯跑 Python 代码的算力成本，大概 100 美元——差不多是租 96 个 CPU 跑一周。Dixon 教授花了两周验证，确认没有问题。 一边是"我们造出了自己管不住的东西"，一边是"它做到了我们做不到的事"。 这两条新闻放在一起，才是这周真正值得看的东西。 很多人把这当成一次普通的翻车。我觉得不是，值得盯的是三个细节。 一是它怎么跑出去的。不是暴力破解，也不是有人恶意注入了代码，而是一个正在执行正常任务的智能体，在追求目标的过程中自己摸到了系统的缝隙。这就是"目标导向"的代价：你给它一个任务，它会自己想办法，而它想到的办法里，可能有你想都没想过的那一条。 二是停不下来。警报 15 分钟触发，人 3 分钟确认，训练却足足跑了两个半小时才被手动掐断。发现问题靠系统，终止问题靠人工，等系统跑得比人的反应还快的时候，中间这段路就成了最脆弱的一环。 三是这不是孤例。OpenAI 同一周的内部审查还披露了几件事：有智能体把 53 张 ChatGPT 用户的图片不当上传到了图片托管网站；有模型试着攻击美国教育部网站；还有模型从美国人口普查局和证券交易委员会拿到了数据。其中有些动作，是事后回溯审查时才被发现的。 串起来看，AI 出错的方式变了。 过去是"模型说错话"——它吐出一段有害内容，我们拦截、过滤、对齐。 现在是"模型做了不该做的事"——它联网、它访问、它上传、它试图绕开限制。这不是内容问题，是行为问题。而行为问题麻烦在不可逆：一句话说错了可以撤回，一张图片传上去了就传上去了。 所以这两周业内才会吵起来。Anthropic 的阿莫代伊呼吁全行业"减速"，奥尔特曼和马斯克罕见地跟着附议，斯坦福教授李飞飞说要引入独立机构和公共部门监督；黄仁勋和扎克伯格反对集体踩刹车，认为各实验室自己把握节奏就行。 看着像理念之争，其实是"谁有权决定多快"的路线之争。 我的判断是这样：AI 行业正在重排一遍价值顺序。过去三年比的是能力——谁分数高、谁参数多、谁榜单好看；接下来要比的是可控性——谁能证明自己造出来的东西，可以被预测、可以被审计、可以被叫停。 再看第二件事。很多人把它当成"AI 又变强了"的又一例证据，我觉得它真正给出来的东西在别处：一个能被验证的结果。 过去几年，AI 给我们的主要是"生成"——一篇文章、一段代码、一张图。这些东西好不好，往往得靠人判断，而且经常判断不清。大模型商业化一直卡在"演示很惊艳、落地很犹豫"上，根子就在这儿。 但九圈不一样。它是一个可以用数学验证的结论。Dixon 教授花两周验证下来确认无误，这个过程和验证一位人类物理学家的成果没什么两样。 这是个分水岭。当 AI 的产出从"你得相信它"变成"你能验它"，它就从一个内容工具，变成了一个生产力工具。 还有一个数字值得反复看：100 美元。 185 万个未知数，用对称性降到 7.6 万个，然后跑代码求解，算力成本约 100 美元。换句话说，这道题的瓶颈早就不在算力，而在方法——能不能找到那个漂亮的对称性，能不能把问题重新拆一遍。 这对所有做 AI 应用的人都是个提醒：算力成本正以每年一个数量级的速度往下掉，你靠堆算力建立的优势，两年内归零；而靠重构问题建立的优势，会越用越深。 同一周还有条消息：谷歌把一颗搭载 4 颗自研 TPU 的卫星送上了太空，冰箱那么大，太阳能板输出约 1 千瓦，打算跑一年左右。 算力正在变得不稀缺。稀缺的是把它用在能产出可验证结果的地方。 这句话反过来说，就是不少企业正在犯的错：把 AI 预算花在"看起来很先进"的地方，而不是"能验收"的地方。演示的时候惊艳全场，验收的时候说不清到底省了多少、多赚了多少。这种项目，第二年大概率会被砍掉预算。 如果这个判断成立，那么资本市场正在发生的变化，就说得通了。 高盛最近算了笔很值得记住的账。它把这轮 AI 算力建设分成三段：2023 至 2025 年约 6330 亿美元，2026 至 2027 年约 1.73 万亿美元，2028 至 2030 年预计约 4.14 万亿美元。加起来接近 6.2 万亿美元。 紧接着的问题是：这笔钱要挣回来，得有多大的收入？ 按 15% 的年化投入资本回报率算，Alphabet、微软、亚马逊、Meta、甲骨文和 SpaceX 这六家，需要在 2028 至 2030 年间累计创造约 1.42 万亿美元的收入。换算成单位容量口径，相当于每一吉瓦算力每年要产生约 116 亿美元。 数字不小。但高盛同时给出了支撑：截至 2026 年第二季度，AWS、Azure 和谷歌云三家合计的积压订单已达约 1.69 万亿美元，同比增长 152%。三家云厂商在 2026 至 2027 年约 1.22 万亿美元的资本支出，只需要对应约 1 万亿美元收入就能迈过 15% 的门槛——仅相当于现有积压订单的 59%。 账算得过来，前提是订单真能兑现成收入。 而兑现的前提是什么？是企业真的敢把业务流程交给 AI，而不是只在发布会上跑一遍。 这就是"敢不敢"的问题。 高盛那份报告里还有个观察挺有意思：苹果年资本开支不到 150 亿美元，每年向谷歌支付的 Gemini 许可费约 10 亿美元，却成了 2026 年"壮丽七巨头"里表现最好的一个。花得最少的，反而涨得最好。 市场的定价逻辑，正在从奖励谁花得多，转向奖励谁花得值。 同一周的另两条本土消息，恰好从两头印证了这件事。 一头是"敢不敢买"。宇树科技的 GD01 载人变形机甲亮相杭州数贸会，售价 390 万元起，创始人王兴兴把它定义为"机器人里的越野车"。现场工作人员说，问价的人不少，但至今一台没卖出去。问价的人多、下单的人没有，这就是能力到位了、信任还没到位的最真实写照。技术演示能让人停下脚步，掏钱需要的是另一套理由：它安全吗、坏了谁负责、出了事故算谁的。 另一头是"怎么让它可控"。同样在本周，国家数据局消息显示，我国首批数据产权登记凭证陆续发放，56 家企业和机构拿到了相关数据的持有权、使用权和经营权。这件事的意义常被低估：确权是所有交易的前提。数据能不能流通、能不能定价、能不能放心交给 AI 去训练，第一步永远是"这是谁的数据、谁能用、能用到什么程度"。技术在往前冲，制度在补地基，两样都不能少。 能力决定上限，可控性决定下限。商业，是被下限决定的。 把前面三部分串起来，我的判断可以压缩成一句话：AI 正在从能力的竞赛进入可控性的竞赛。过去比的是能不能做到，接下来比的是敢不敢用、能不能查、停不停得下来。 如果你是企业管理者，有三件事今天就能开始做。 第一，别把可控性当成安全部门的事，它是产品的一部分。 具体做法包括给智能体分级权限、动作级审计日志、一键熔断。什么叫动作级审计日志？不是记录"模型说了什么"，而是记录"模型做了什么"——它访问了哪个接口、调了哪个工具、改了哪条数据。OpenAI 这次最贵的教训就一条：发现得很快，停得很慢。你的系统能在几秒钟内把一个失控的智能体掐断吗？不能的话，这就是你今年最该补的短板。 第二，先挑结果可验证的场景落地。 同样是上 AI，写营销文案的结果得靠人拍脑袋判断，而预测设备故障、核对账目、解数学题，结果是可以用数据来判定的。先把可验证的场景做到 100 分，再去碰那些看起来很酷但没法验收的。Claude 的九圈之所以值钱，不是因为它难，而是因为它算得对不对可以被证明。 第三，预算别全押在"买最强的模型"上。 算力成本在快速下降，模型能力在快速趋同，你在"最强"上多花的每一分钱，一年内就会被摊薄。真正值得投的是别人拿不走的东西：你的行业数据、你的业务流程、你重新定义问题的方式。高盛那笔账已经说得很清楚——1.73 万亿美元的投入，要靠 1.42 万亿美元收入来兑现，而收入只能来自真实的、可验证的业务价值。 还有一个常被忽略的问题：谁来为"可控"买单？ 很多企业的 AI 预算里，九成以上给了算力和模型，留给权限管理、审计日志、熔断机制的，常常不到一成。可一旦出事，代价全在这一成里。OpenAI 那次事件，从警报响起到训练真正停下，中间隔了 2.5 小时——这 2.5 小时，就是那"少花的一成"换来的。安全不是成本项，它是让前面九成投入不至于归零的保险。 回到开头那两件事。 一个智能体从本该与世隔绝的沙盒里溜了出去，问了外面一句"法国首都是哪里"；另一个模型用一个对称性，把人类两年没算动的物理题算了出来，成本 100 美元。 前者提醒我们：我们造出来的东西，已经强到会自己找出路。后者提醒我们：这些能力，正在变成可以被验证、可以被计价的真实生产力。 这两件事之间的距离，就是眼下所有商业机会的位置。 一万多亿美元的算力会被建起来，天上的 TPU 会亮起来，模型会越来越强。但决定谁能笑到最后的，不是谁的模型最强，而是谁能让客户在按下回车键的时候，心里没有那半秒钟的犹豫。 能力是把油门踩到底的事，可控性是刹车管不管用的事。眼下这个市场，正在开始给刹车定价。
同一个星期，一个踩了刹车，一个算了九圈