夜雨聆风学习资料网

ARTICLE · 1214315

DSH智能路由决策插件:每轮自动挑最省模型

DSH智能路由决策插件:每轮自动挑最省模型

DSH智能路由决策插件:每轮自动挑最省模型

跑 coding agent 最冤的事,就是每轮都按最贵的模型算钱。读个文件、改个变量名,账单上也是最高档的价。

我写了 dsh-plugin-jev-router,专门给每一轮单独挑模型。机械活走便宜的,硬骨头才上贵的。它不靠关键词猜,而是问 Jev 一个单选题。Jev 只判断、不生成答案,成本几乎可以忽略。

这插件按顺序试五条规则。遇到报错、竞态直接上最贵档;只读短命令走最便宜档;上一轮用了贵模型,下一轮直接沿用。都不命中,才去问 Jev。低置信或超时,一律回默认的最贵模型,绝不把任务搞砸。

一天跑两百轮能省下近七成费用。每轮选了谁、省了多少,都会记进日志。日志里存的是哈希,不存正文,拿给别人看也不怕泄密。事后换个偏好重放一遍就行,不用重新跑。

不过有几个坑得提醒你。候选模型的单价得换成你自己的,不然省多少全是虚数。这项目刚建两周,生产环境先小流量测一下回落率。粘性保持设太大,误判一次会把后面几轮全拖贵了。

原文另一个DSH智能路由决策插件:每轮自动挑最省模型帮你按质完成任务
广东,11小时前,

相关学习资料