乐于分享
好东西不私藏

Token烧得多,只能说明你烧得多

Token烧得多,只能说明你烧得多

Token消耗量,说明不了什么。

我看到一种说法开始流传。说一个人的 Token 消耗量,能直接代表他用 AI 的水平。甚至有公司开始拿这个数据当招聘筛选条件。我还为此写过一篇文章:

我觉得这个逻辑有一个根本性的问题。

你花的钱越多,不代表你越擅长花钱。

你花的钱越多,只能说明一件事:你花的钱越多。

Token 消耗量也是同一个道理。

跑了十万个 Token,只能证明你跑了十万个 Token。

它没法告诉任何人,你跑出了什么结果。

仔细想一下,什么样的人 Token 消耗量特别大?

一种情况,prompt 写不清楚,反复让模型重新生成。一种情况,不会选模型,所有任务一律丢给最贵的那个跑。一种情况,工作流设计粗糙,中间大量调用其实是无效的。

这三种情况,消耗量都会非常高。但这三种情况,恰恰说明用得粗放。

反过来想。一个真正把 AI 用明白的人,特征应该是什么?一条 prompt 下去,不需要来回五六轮修正。清楚每个模型的边界,该用轻量的绝不上重量级的。用最少的调用拿到最准确的结果。

这种人的 Token 消耗量,大概率不是最高的那一批。

跟写代码一样。一个程序员写了一万行,另一个只写了一千行,功能完全相同。没有人会觉得写一万行的更厉害。

消耗量是一个输入指标。它衡量的是你投入了多少资源。但招人要看的是产出。用输入来推断产出,中间缺的东西太多了。

如果一家公司真的用 Token 消耗量来筛人,筛出来的可能是最舍得烧钱的人,但不一定是最会用钱的人。

真正值得看的,从来都不是你烧了多少 Token。是你用这些 Token,做成了什么事。

今天就不配图了,大家4月再见。