ARTICLE · 1214315
DSH智能路由决策插件:每轮自动挑最省模型
DSH智能路由决策插件:每轮自动挑最省模型
DSH智能路由决策插件:每轮自动挑最省模型
跑 coding agent 最冤的事,就是每轮都按最贵的模型算钱。读个文件、改个变量名,账单上也是最高档的价。
我写了 dsh-plugin-jev-router,专门给每一轮单独挑模型。机械活走便宜的,硬骨头才上贵的。它不靠关键词猜,而是问 Jev 一个单选题。Jev 只判断、不生成答案,成本几乎可以忽略。
这插件按顺序试五条规则。遇到报错、竞态直接上最贵档;只读短命令走最便宜档;上一轮用了贵模型,下一轮直接沿用。都不命中,才去问 Jev。低置信或超时,一律回默认的最贵模型,绝不把任务搞砸。
一天跑两百轮能省下近七成费用。每轮选了谁、省了多少,都会记进日志。日志里存的是哈希,不存正文,拿给别人看也不怕泄密。事后换个偏好重放一遍就行,不用重新跑。
不过有几个坑得提醒你。候选模型的单价得换成你自己的,不然省多少全是虚数。这项目刚建两周,生产环境先小流量测一下回落率。粘性保持设太大,误判一次会把后面几轮全拖贵了。
原文另一个DSH智能路由决策插件:每轮自动挑最省模型帮你按质完成任务
广东,11小时前,















































































