AI 智能体工具太多怎么办
当 Agent 接入几十、上百个工具时,如果每次请求都把完整 Tool Schema 全部塞进上下文,不仅上下文越来越长,也会带来更高的 Token 成本和计算开销。
更合理的做法,是把工具信息分成两类:稳定的工具目录放在静态前缀中,利用 KV Cache 持续复用;大量工具则采用渐进式披露,只展示名称和简短描述,真正需要时再通过 Tool Search 加载完整 Schema。
核心原则可以浓缩成一句话:
稳定的少放,动态的按需加载;只增不改,最大化缓存命中。
其它金额
赞赏金额
¥
最低赞赏 ¥0
1
2
3
4
5
6
7
8
9
0
.
广东,32分钟前,
夜雨聆风