夜雨聆风主编：沈观｜总编：周衡
图：数字中国建设峰会官网报道页面，2026年7月20日。
“这个月怎么又涨了？”
做电商的朋友老周把账单截图发到群里：客服智能体上线第一个月，调用费还不到两千；第二个月，订单没多多少，账单先翻了两倍。最让他不服的是，机器人回答的还是那些问题：发货了吗、能不能改地址、退货怎么寄。
图：真实媒体画面中的算力机房与智能体词元报道。
很多老板以为，AI用得越多，效率就越高。账单会提醒你，事情没这么简单。
普通聊天是一问一答。智能体接到一个任务后，可能要读聊天记录、查库存、调用ERP、再让模型判断下一步，最后把结果写回工单。每多走一步，就多一段上下文、多一次模型调用，词元消耗跟着涨。
尤其是三种场景，最容易把账单悄悄推高。
证据图：新华网报道AI产业链推动词元降本增效。
一是把整段历史对话原样塞给模型。客服只问“改个尺码”，系统却把客户半年的聊天、商品说明和售后规则一股脑送进去。
二是所有问题都交给同一个大模型。查物流、改地址、判断退货条件，本来难度不同，却都按最高规格计费。
三是让智能体在不确定时反复自问自答。没有步数上限、超时和人工接管，模型会在后台多绕几圈，老板看不见，账单看得见。
场景图：老板在夜间核对AI账单。
经济参考报7月20日从WAIC现场报道，模型路由、小模型和算电协同都在围绕词元成本发力。报道中也出现了“成本减半”甚至更低的企业口径。先把话说清楚：那是受访企业的目标或自报数字，不是小公司上线后自动获得的折扣。
模型路由的意思很朴素：把不同难度的任务，送到不同成本的模型。
查订单状态、提取发票号码、按规则分类售后，这些任务可以交给小模型、规则引擎或结构化查询。只有遇到长文理解、复杂报价、客户投诉升级，才把请求转给更贵的模型。
机制图：不同任务走不同成本通道。
一家有三人客服团队的家装店，可以把“查进度”“找合同条款”设为低成本通道；“客户要求退全款但已安装”才升级到强模型，并让人工最终确认。这样做的关键不在于模型名字，而在于把升级条件写清楚：什么问题升，升几次，谁来接管。
路由做得不好，也会产生新浪费。模型来回切换、重复改写提示词，可能比直接调用一次大模型还贵。老板要看的不是“用了几个模型”，而是每类任务的平均词元、成功率和人工接管率。
缓存适合处理重复度高、答案变化慢的请求。
场景图：小团队讨论任务路由。
比如物流客服每天都有人问“某仓发到广东要几天”，商品详情页反复被检索，企业内部的报销规则一周才更新一次。这些内容可以把结果或中间检索结果暂存起来，命中时不必从头调用大模型。
但缓存不是把答案永久冻住。库存、价格、活动和政策都可能变化，缓存必须带有效期和版本号；涉及客户隐私的内容，还要按用户、门店和权限隔离。图省几分钱，把旧价格发给客户，赔的可能是一整单利润。
一个实用做法是先画“重复问题表”：过去30天最常见的50个问题，记录答案变化频率、错误代价和命中率。重复高、变化慢、错了可纠正的，优先缓存；变化快、错了要赔钱的，宁愿多算一次。
很多系统的浪费，不在模型单价，而在“带了太多没用的东西”。
机制图：缓存的适用边界。
把十页产品说明压成结构化字段，把长对话先提炼成订单号、客户诉求、承诺时间和风险点；检索只拿相关段落，不把整个知识库都塞进去。对老板来说，这些动作比每天盯着厂商降价公告更实在。
上下文裁剪也有边界。售后争议、合同解释、医疗和财务相关问题，不能为了少几个词元就删掉关键条件。少算一百次，可能扛不住一次错答的赔偿。
把降本拆成一个7天小试，别一上来改整个系统。
机制图：上下文裁剪与关键条件。
第一天，选一个闭环，例如售后分类或订单查询，导出最近一周的真实请求，记录原始词元、耗时、命中率和人工接管。
第二天，把请求分成三档：规则能做的、小模型能做的、必须升级的。先不换供应商，只改路由规则。
第三、四天，给高重复、低风险问题加缓存，设置有效期和版本号；同时给智能体加最大步数和超时。
场景图：高风险问题转人工接管。
第五天，让真实客服使用，不让项目组替客户操作。把错答、重试、转人工和客户追问都记下来。
第六天，把账单按任务类型摊开：每解决一个订单，平均花多少钱；每省下一个词元，是否带来更多人工复核。
第七天，只做三种决定：扩大到第二个场景、保持现状，或者关掉这条链路。没有数据支撑的“砍半”，不值得写进采购合同。
机制图：模型费之外的总成本表。
第一种，把所有任务都压到最便宜的模型。账单可能好看，错答、返工和人工复核会在另一张表里出现。
第二种，缓存一切。旧价格、旧库存、旧政策一旦发出去，省下的调用费很快会被赔付吃掉。
第三种，只看模型单价，不算工程成本。路由、缓存、日志、监控、权限和回滚都需要人维护；如果每月省下三千元，却增加了一位工程师的值守时间，这个项目并没有降本。
机制图：7天账单对照试验。
真正值得追的指标，是一笔业务的总成本：模型费、算力费、工程维护、人工复核和错误赔付，放在同一张表里看。
AI智能体的账单变贵，不一定说明它没用。有时恰恰说明它开始接真实业务了。问题是，老板不能只看调用次数，也不能只听“成本减半”的口号。
先把任务分层，把重复问题缓存起来，把无效上下文删掉，再用一周真实数据决定去留。省下来的，才是利润；没算清楚的，只是下一张账单。
引用线索：经济参考报《AI产业链携手推动词元降本增效》（新华社转载，2026-07-20）；数字中国《智能体带动词元调用量快速增长 业界探索算力普惠》（2026-07-20）；中国政府网2026年政府工作报告关于“算电协同”的公开信息。文中模型路由、缓存、上下文裁剪和7天试验为编辑部基于公开报道与企业采购场景的分析；“成本减半”等数字属于受访企业或厂商口径，不构成效果承诺。
