夜雨聆风学习资料网

ARTICLE · 1307587

AI的下半场:不比谁更聪明,比谁更划算

AI的下半场:不比谁更聪明,比谁更划算

先讲一件这两天发生的、有点魔幻的事。

MIT的CSAIL实验室,做了一组实验。他们让OpenAI的GPT-6 Astra,直接去改另一个小模型的"脑子"——不是训练它,不是给它提示词,而是直接改写它的神经网络权重。

改的对象是Qwen3.5-0.8B,一个不到10亿参数的小模型。改了多少呢?0.016%的权重。

结果,这个小模型的数学成绩,MATH-500上的准确率从7.9%干到了48.1%,翻了6倍。指令遵循能力IFEval,从21.0%干到了62.3%。

没有训练,没有梯度下降,没有算力轰炸。就是改了0.016%的权重。

MIT管这个叫"权重空间编程"。

你品一下这件事的含义。过去我们理解的AI能力建设,是"炼丹":堆数据、堆算力、堆电费,一次训练几个月。现在,AI能力可以被"改装"了——像改装一台发动机,不是重新造一台车。

当然,也有冷水和争议。Meta的研究员质疑,实验里的提示词可能提前引导了排查方向。这个质疑是严肃的,我们后面还会回到"验收"这个话题。

还有一层边界要说:实验改的是推理循环这种结构性的低效,属于"拧螺丝"式的优化。如果你的模型本身方向就是错的,拧螺丝救不了它。改装能放大资产的价值,不能凭空创造价值。

但我今天想说的是,把这件魔幻的事,和11月3日到4日发生的其他几件事放在一起看,你会发现一条清晰的线:

AI的竞争,正在从"谁更聪明",切换到"谁更划算、谁更可靠"。

上半场,比的是模型的智能上限。下半场,比的是智能的单位成本、状态的可靠性和结果的确定性。

这不是我的臆断。你看这个月行业里最聪明的那批钱在往哪里走,就明白了。

下面四件事,分别对应下半场的四张牌。

一、改装时代:模型是资产,不是项目

先回到开头的案例。

权重空间编程为什么值得认真对待?因为它改变了一个基本的会计科目。

过去,一个模型是一次性项目。训练完成,交付上线,能力就冻结了。想提升,只能等下一代,重新烧一遍钱。

如果"改权重"这条路能走通,模型就从"项目"变成了"资产"——资产是可以维护、可以翻新、可以按需改装的。

这对企业意味着什么?意味着你现在买的每一个模型、攒的每一份微调数据、跑的每一次评测,都是在积累一项可以持续升值的资产,而不是一笔花完就没了的费用。

当然,边界也要说清楚。MIT的实验对象是一个0.8B的小模型,改的是推理循环这种结构性的低效。在百亿、万亿参数的模型上怎么改,改完如何保证不伤及其他能力,都还是未知数。连Meta的研究员都在质疑提示词引导的问题。

所以这个案例正确的打开方式,不是"哇,不用训练了",而是:开始把你的模型当成需要持续维护的资产来管理——记录它的版本、评测它的能力、留好它的账本。

具体怎么做?三件小事。

第一,给你在用的每个模型建一张"能力台账":它擅长什么、在哪些评测集上什么水平、上次评测是什么时候。没有台账的模型资产,和没有账本的现金一样,丢了你都不知道。

第二,把微调数据、评测集、成功案例当作核心资产入库。下一次"改装"来的时候,这些就是你的原材料。MIT的实验能成,靠的就是对模型内部的精确理解——理解来自长期的记录和评测。

第三,警惕"一键万能"的诱惑。今天能让AI改权重,明天就有各种工具说能让AI改一切。凡是直接动你生产系统核心的东西,都必须配人工验收。这一点,后面还会反复出现。

改装时代的前提,是你知道自己的车现在是什么状态。

二、Token账本:算力的账,要按"有效产出"算

第二件事,是一个鲜明的对照组。

正面例子:11月4日,2026人工智能+大会上,趋境科技联合智谱、摩尔线程发布了"国产异构推理高品质AI Token工厂解决方案"。

它解决的是一个很实在的问题:大模型推理有两个阶段,Prefill负责理解输入,Decode负责逐字输出。这两个阶段的负载特征完全不同——一个吃算力,一个吃显存带宽。传统方案用同一种硬件贯穿全程,结果两头都不划算。

趋境的思路是异构协同:让计算强的芯片干Prefill,让带宽大的硬件干Decode,把CPU、GPU、内存、网络整体纳入调度。实测已在生产环境稳定承载万亿参数模型,同等硬件投入下,有效产出成倍提升。

反面例子:马斯克。11月1日,Grok Bot的额度条异常跳动,用户实测每1%周额度可用的token量,从约730万缩水到约390万,近乎腰斩。马斯克自己承认,这个服务的成本相对收入"高得扛不住"。

要知道,Grok Bot10月初的付费周活已经达到80万,环比翻倍多。用户越多,亏得越狠。这是2026年AI行业最真实的一组矛盾。

把正反两面放在一起,结论就出来了:

算力的账,不能按"我买了多少卡"算,要按"每百万有效Token的成本"算。

再看一个佐证。Anthropic刚刚更新了招股书:三季度收入169.56亿美元,同比增长1127%,年贡献超10万美元的企业客户超过1.19万家,前三季度调整后营业利润40.81亿美元,经营现金流转正。但与此同时,它的算力采购与租赁累计承诺已经高达约8954亿美元。

一边是历史级的收入增速,一边是历史级的算力账单。这个行业的头部玩家,全部都被同一道题困住:怎么让每一度电、每一张卡,产出的都是"有效Token",而不是空转的热量。

算力的账,不能按"我买了多少卡"算,要按"每百万有效Token的成本"算。同一个智能水平,成本差一倍,商业模式就是生与死的差别。Grok Bot不是不够聪明,是每卖1美元亏得扛不住。趋境方案的价值也不在于技术多炫,而在于把普通算力变成了能用得起的生产力。

对你的行动建议:从今天起,给你的AI应用记一本"Token账"。每个业务环节,消耗多少token、产出多少有效结果、折算多少人工替代。这本账,下半场会决定你的项目是继续做还是被砍掉。

三、状态危机:上下文装得下,不代表状态跟得住

第三件事,是一盆恰到好处的冷水。

11月3日,Allen AI发布了评测集StateBench,专门测一件事:模型能不能在长对话里"跟得住状态"。

结果相当扎眼。Gemini 3.8 Flash、Claude Opus 5.5、GPT-6这些顶级模型,在最复杂的跨变量依赖任务上,准确率全部掉到13%以下。

注意,这不是长文本能力不行。今天的模型,上下文窗口动辄百万token,装一整本书没问题。StateBench测的是另一回事:对话进行了几千轮,前面某个变量被更新过、被引用过、被依赖过,模型还记得住吗?推理得对吗?

装得下,跟不住。

这解释了很多人用AI助手的真实体感:刚开始很聪明,聊得越久越糊涂。你以为它记着你的偏好、你的约束、你上周做的决定,其实它早就"忘了",或者记串了。

这在业务场景里是会出事故的。想象一个客户服务的Agent:第一天客户说"以后都发邮件不要打电话",第三天客户换了手机号,第五天客户说"那个方案再等等"。这些状态如果全靠对话历史扛着,Agent迟早会拿旧手机号打电话、把搁置的方案推进下去。不是模型笨,是状态根本没被管理。

另一个相关实验更说明问题:一个只有2.75亿参数的小模型,只训练到256次赋值,却要外推到64000次。循环架构在简单任务上外推还行,复杂任务全线崩溃。这说明状态维护是架构层面的难题,不是堆参数能解决的。

这对做AI应用的你是天大的好事——因为解法不在模型里,在工程里。

正确的设计是:把关键状态落到明确的数据记录里,让模型在需要时去读取和更新,而不是指望它把全部历史都记在对话里。

用户的偏好、业务的约束、任务的进度,这些应该是一张结构化的表,模型只是这张表的读写者。谁先把状态管理做扎实,谁的Agent就能从"聊天玩具"变成"生产工具"。

四、验证前置:在虚拟世界摔一万跤,再去现实摔一跤

第四件事,关于"确定性"。

11月3日,百度AI Day·Apollo专场,百度首次披露了面向物理AI的世界模型Apollo World。它已经用于萝卜快跑的全球化测试与验证。

最狠的一个数字是:Apollo World可以"日行十万公里"——一天完成的虚拟路测里程,相当于一辆带安全员的真实路测车连续测试约三年。

为什么世界模型这么重要?百度首席架构师王亮说得很透:世界模型不能只做"生成炫酷视频的画师",更要做验证无人驾驶安全性的"考官"。关键是忠实还原现实物理规律和行为的因果,而不是渲染画质。

它把交通参与者都建模成有决策能力的AI智能体,让无人车在虚拟城市里跑"提前验证过的无限未来"。现实世界摔一跤很贵,虚拟世界摔一万跤很便宜。

另一个案例是它的反面教材。同样是这两天,OpenAI披露:自家成员用GPT-6 Astra设计一套测试设备的外壳、PCB和软件,不到一周完成设计,代工厂不到一个月做出小批量原型。听起来很美好?

但同一份披露里写了:制造前仍需多轮人工审核,模型不能稳定处理公差、装配细节和工厂限制。在一个CAD重建测试里,未公开的内部新模型得分0.875,而Astra只有0.594。

能设计,不等于能投产。

这两个案例的对比,恰恰是下半场的缩影:物理世界的验证成本极高,谁能把验证搬进虚拟世界、搬到自动化流水线里,谁就把"规模化"的门票拿到了手里。反过来,凡是跳过验收环节直接交付的,不管模型多强,都会在真实世界的公差、边角和意外面前翻车。

把这两件事放一起,下半场的第三张牌就清楚了:谁能在交付之前,用最低成本完成验证,谁就能规模化。

虚拟验证、自动化检查、可验收的交付物——这些"前置设施"的价值,正在超过模型本身的参数量。IBM的Palette项目也证明了这一点:20B的小模型,靠"生成→渲染检查→只保留确实改善结果的修复"这套流程,在演示文稿任务上平均提升3.5分。小模型+严验收,能打赢大模型+裸交付。

顺带一提,监管也在朝这个方向走。美国NIST刚刚发布了AI事件管理的工作坊报告,核心议题就是:出事怎么停、凭什么还原、谁负责接管。给企业交付AI系统的服务商,迟早要回答这三个问题。提前准备的人,到时就是壁垒。

最后

回到开头那0.016%的权重。

它的真正意义,不是宣告训练无用,而是宣告一种新范式的开始:AI能力不再只靠"更大的炼丹炉",而是靠精细化的改装、调度、记账、验收。

上半场,AI行业的主题词是"能力"。下半场,主题词换成了四个更朴素的词:成本、状态、验证、资产。

DeepSeek在让Agent给自己造插件,Anthropic在三季度把收入做到169.56亿美元、同比增长1127%,同时背着近9000亿美元的算力承诺冲击上市。这个行业里最聪明的钱,都已经开始为"经济性"投票了。

给你的三条行动建议。

第一,建你的Token账本。从"这次AI演示很惊艳"切换到"这个环节每百万token成本多少、替代多少人工"。给每个AI环节记三笔账:消耗、产出、替代。算不清账的AI项目,会在下半场第一批被砍。

第二,把状态从对话里拿出来。用户的偏好、业务的规则、任务的进度,全部落到结构化数据里,让模型做读写者,不做记忆载体。这是Agent从玩具变工具的分水岭。

第三,先验收,后交付。给每一个AI产出配一道自动检查:能渲染的渲染看,能跑的跑一遍,能对照的对照一遍。虚拟世界里摔一万跤,再去现实里摔一跤。

三句话总结这三条建议的本质:把智能当资产管理,把成本当账户管理,把产出当质量管理。

AI不缺聪明。

缺的是把聪明变成确定性、又把确定性变成利润的那套功夫。

下半场,比的是这个。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料