ARTICLE · 1113419
AI正在学会“看菜下饭”:一场关于成本的静默革命
AI正在学会“看菜下饭”:一场关于成本的静默革命
过去两年,我们习惯了用更大的模型、更多的参数、更贵的算力去解决问题。但一个反直觉的变化正在发生:最前沿的AI系统,开始主动选择“更笨”的模型。这不是技术退步,而是工程思维的成熟。当Agent从演示走向生产,成本结构正在倒逼架构创新。Planner-as-Router这篇论文,恰好踩在了这个转折点上。
当AI系统学会用最合适的模型而不是最强的模型,这个行业才真正开始走向成熟。
01、最贵的模型,正在被主动降级
一个前沿模型处理一百万token的成本,可能是小模型的25倍。这个数字本身不惊人,真正惊人的是它的复利效应。当一个Agent工作流需要串联五次、十次模型调用时,成本差距不是线性放大,而是指数级拉开。
过去行业的默认逻辑是:用最强的模型,保证最好的效果。但生产环境不是实验室。当你的Agent每天要处理十万次用户请求时,用前沿模型跑每一个子任务,账单会教你做人。
Planner-as-Router的核心洞察非常朴素:不是所有子任务都值得用最贵的模型。规划一个复杂任务需要前沿模型的推理能力,但执行一个简单的信息提取,小模型完全够用。问题在于,过去没人把这种判断做进规划环节。
不是所有思考都值得用最贵的大脑,AI系统正在学会精打细算。
02、规划器变成了路由器
传统的Agent架构里,规划是规划,执行是执行,模型选择往往是一个独立的、后置的决策。要么统一用大模型,要么靠一个单独的组件去判断该用哪个模型。
PaR的做法是把模型选择折叠进规划过程本身。当规划器把一个复杂查询拆解成子任务时,它同时给每个子任务打上模型等级标签:小、中、前沿。这个动作看起来很小,但它改变了整个系统的成本结构。
你可以这样理解:过去的Agent像一个不差钱的老板,所有活儿都交给最贵的顾问。现在的Agent像一个精明的项目经理,拆完任务后,把复印资料交给实习生,把战略分析留给合伙人。关键在于,这个判断是在拆任务的那一刻就做出的,而不是事后补救。
模型选择不再是事后优化,而是规划的一部分。这是架构思维的转变。
03、为什么现在才出现
这个想法并不复杂,但为什么直到现在才被系统性地提出?因为过去两年,行业的主要矛盾是模型能力不够。当模型连基本任务都做不好时,讨论成本分配是奢侈的。
现在情况变了。小模型在大量特定任务上的表现已经足够好,前沿模型和小模型之间的能力差距在收窄,但成本差距没有同步缩小。这个剪刀差,就是PaR这类方案存在的商业土壤。
另一个推动力是Agent从单次调用走向多步工作流。单次调用时,模型选择的影响有限。但当工作流变成十步、二十步,每一步都乘以调用量,成本优化就从锦上添花变成了生死攸关。
能力差距在收窄,成本差距没变。这个剪刀差正在重塑AI架构。
04、谁会被这场变化影响
最直接的受益者是那些已经把Agent投入生产的企业。客服自动化、文档处理、代码生成、数据分析,这些场景的共同点是任务可拆解、子任务难度不均。过去它们要么忍受高昂成本,要么牺牲效果统一用小模型。
对模型厂商来说,这个趋势意味着竞争维度在变化。过去大家比的是谁的模型最强,未来还要比谁的模型在特定档位上性价比最高。中间档位的模型会迎来新的机会。
对普通用户来说,你感受到的不会是技术细节,而是AI服务的价格。当推理成本结构被优化,更多AI应用才能从免费试用走向可持续的商业模式。便宜不是目的,便宜是让AI真正普及的前提。
成本优化不是技术问题,它决定了AI服务能不能真正走进日常。
05、AI系统的经济学思维
PaR代表的趋势,本质上是AI系统开始具备经济学思维。它不再只问“能不能做”,而是问“值不值得用这个成本做”。这种思维在人类组织中很常见,但在AI系统里才刚刚萌芽。
未来我们可能会看到更多类似的架构创新:不是追求单点最强,而是追求系统最优。缓存策略、模型蒸馏、任务路由、动态降级,这些工程手段会从边缘走向中心。
真正关键的是,这个趋势指向一个更成熟的AI产业。当大家不再只盯着榜单分数,而是开始算账、算效率、算可持续性,这个行业才算真正长大。
AI不再只比谁更聪明,开始比谁更会算账。这是产业成熟的信号。
写在最后
Planner-as-Router不是一个孤立的论文,它是一个信号。AI行业正在从能力竞赛转向效率竞赛,从单点突破转向系统优化。对普通人来说,这意味着AI服务会变得更便宜、更普及。对企业来说,这意味着Agent的ROI终于可以算得过来了。对行业来说,这意味着真正可持续的AI商业化,才刚刚开始。
参考资料
1.https://arxiv.org/abs/2609.32917