最近各个公司都开始收紧大家的AI token额度,因为投入产出比不对,大家都在消耗大量的token去做一些无关痛痒的事情。
有没有一个简单的评估方式?让使用者大致了解投入产出比?
由于所有模型都是按token作为单位进行计费的,我们就来简单拆解下:
01
—
Token消耗拆解
我们拆解一个简单的例子:

第二轮模型输入70+76字为第一轮对话的内容,模型需要对本轮对话的所有内容做分析(上下文),才能给出正确答案。
02
—
Token成本拆解
一个汉字/单词,我们按2个Token来做估算。
输入和输出的价格不同,越专业的模型,输出的价格越高。
注:下方表格中T表示Token
我们按轻量化模型运行,价格取该区间的中间值,那么刚才2轮对话的费用为:
03
—
Token成本举例
从这个表格中看到,图片是按像素计算token,
视频是按帧拆成图片计算token,
电脑自动化是按桌面截的图片计算token。
04
—
如果在使用前计算投入产出比?
现在,我们就可以按计算投入产出比。
我的主要AI对话内容是文字和图片。
假设每一轮对话都包含刚才的保温杯类似内容,再加一张高清图片。
每个月100块的预算,可以实现3630次。
夜雨聆风