ARTICLE · 1340022
5395 星的上下文插件:token 省了,账单为
5395 星的上下文插件:token 省了,账单为
5395 星的上下文插件:token 省了,账单为
最近有个叫 billion-context 的上下文插件挺火,5395 星,一天还涨了 460。主打把长对话压缩,省 token。
我翻它的评测,看到一行数字直接愣住:在某些情况下,装了它,账单反而贵五倍多。
这插件不是硬截断,而是让模型自己判断压哪段。它还留了后路——原文存本地,摘要只是索引,要细节能还原。这样既保住了缓存折扣,又不怕漏掉关键约束。
问题出在缓存吃满那天。评测里有一组数特别扎眼:同一组对话连着跑、缓存命中率高达 98.1% 时,不压缩花 0.42 美元,压缩后反而要 2.30 美元。
原因很朴素:压缩省的是重传旧材料,缓存省的是重复计算。两者省的是同一笔钱。缓存已经把重复内容打到一折,你非把它换成摘要,等于放弃更便宜的折扣,还白搭一笔摘要生成费。
所以装之前先看一件事:你的会话是连着的,还是断着的?一天连着跑的,去把缓存命中率做高;隔几天才续上的,压缩才能救你。
一个工具省不省钱,从来不取决于它省了多少,而取决于它省的那部分,是不是你正在付的那一笔。
原文5395 星的上下文插件:token 省了,账单为什么反而更贵
北京,4小时前,















































































