ARTICLE · 1111298
AI Agent 消耗的token约为人的5倍
AI Agent 消耗的token约为人的5倍
如今,AI智能体在OpenRouter上消耗的token约为人类的5倍。
2月初,人类的用量仍然领先。
按7日均值计算,智能体用量达到7.3万亿token,高于2月6日的0.51万亿。同期,人类用量增至2.8倍,达到约1.4万亿。
OpenRouter的数据显示:
智能体流量在六个月内增至14倍。
一次典型的智能体请求所携带的token,约为人类请求的15倍。
大多数智能体token是缓存的提示词,因此成本增速低于用量增速。
智能体的每轮交互都携带工具定义、MCP网关定义和推理循环,因此一项任务的消耗就可能超过一百次聊天。
据首席运营官克里斯·克拉克介绍,OpenRouter每周处理约28万亿token,约占全球推理量的1%,且偏向开源模型。
对芯片和存储器供应商而言,推理的买方正在从输入提示词的人,转向运行循环的软件。
山西,21分钟前,