乐于分享
好东西不私藏

Deepseek调价对AI行业的影响

Deepseek调价对AI行业的影响

1. 看重成本的新阶段

从AI诞生以来,大家热议的都是“AI有多大工作能力”。
但这类新闻的反复出现,也是在反证,过去AI能力还不够满意。
直到KimiK3发布,证明了开源方案依旧有最顶尖品质的大模型。
开源模型如此优秀,我们也能乐观地相信,其他大模型早晚也会达到相似的水平。
近期AI圈的热点新闻,却和AI能力无关了,都是围绕着DeepSeek售价展开的。
  • DeepSeekv4Flash的7月31日版,先是宣布定价低至¥2/Mtoken。
  • 这个价格低到了不仅让同品质友商毫无招架之力,甚至影响AI行业的估值逻辑。
  • 8月6日,DeepSeek又官宣要调整价格,大概率会涨价。
这个新闻被大量热议,证明AI发展已经到了新阶段。
人类已经不再质疑AI的工作能力,我们现在更关注“AI能不能在低成本做好工作”。
在这个阶段,Token生产从幕后的技术支持工作,变成了需要重点讨论的关键行为,所以才有了本文。

2. 低价不等于亏损补贴

DeepSeek的Token报价是¥2,而同能力其他Token媒体价(未必是成交价)是其10倍,能力领先的最贵Token报价是25美刀。
很多人在热议其低廉的报价时,都在回避一个问题:DeepSeek报这么低价格,是不是在亏损换客户?
  • 如果DeepSeek是亏损换客户,那这就不是技术进步,而营销行为了,不值得热议。
  • 而近期DeepSeek要调整价格的新闻,也在加深这种顾虑,很多人会认为是DeepSeek亏不起了要涨价。
我做了一些简单测算后,给出结论:低价不等于亏损补贴。DeepSeek报这么低价格,依旧有可能有足额利润。
  • 后文估算了token生产成本。常见的8卡服务器,只要能做到每秒生产35000个token,而每天有一半的Token能卖出去,成本收益即可打平。
  • DeepSeek从利益动机上来说,不需要补贴客户积累日活月活,不需要烧钱换营收。人家不指着这个挣钱,但也不会刻意烧钱搞抽象。
  • 就算你认为DeepSeek在搞抽象,我们可以去OpenRouter查一查,几个Token厂商自己出硬件自己部署DeepSeek报价,是0.28美刀。
它报2块钱居然有得赚,那其他报价的Token——卧草……这就有点抽象了。。。
  • 我知道世界是复杂的,高价背后未必是暴利,更可能是天量的浪费。去年我还写过《其他云产品明明拥有暴利但海量浪费》的文章,云厂商打磨十年还是这样,AI行业当然可以存在浪费。
  • 模型技术团队过去专注的是发布新模型,其主导思想更关注模型训练。过去大家不想也没精力关注生产Token的成本。但时代变了。
  • DeepSeek宣布要大幅提价,更像是在给其他模型厂商一个喘息的机会,给他们3-6个月的时间,补齐Token生产效率的短板。

3. Token生产成本的四大要素

Token生产要做成本盈利分析时,大致有四大类要素。
  • 资源成本 生产能力  售出时长 和软件人力开销。
为了好做计算,我们将前三个要素的开销调整一下时间单位。
  • 每日资源成本 ÷ (每秒Token生产能力 × Token售出的秒数 ),这三大要素就能决定每个Token的极限成本。
我前文说过DeepSeek不是亏损卖Token,就是这种假设:
  • 每日资源成本¥3000,每天售出秒数43200秒,外加2块钱每M Token。
  • 3000/43200/2*1000000=34722,每秒生产生产35000个Token就能盈利。
想反驳我的人,应该去论证两个问题:
  • 如果均摊硬件和+IDC开销,每天成本是3000,这是一台什么样的8卡服务器?
  • 这种配置的8卡服务器,经过性能调优以后,能不能每秒输出35000个token?
Token不会凭空生产,还需要有配套的软件平台和人力成本。所以在前三个要素之外,我们还要再加上“平台软件和人力开销”这个要素。

4. 简单聊聊节省成本的方法

我们浅谈地聊一下,Token生产的成本能怎么节省。
因为展开聊得写10万字了,文章越长越难写,也越没人看。

4.1 每日资源成本

想节省资源成本,我们要做:减少硬件用量、用点便宜硬件和便宜机房。
大家能想到的例子就是用国产硬件,我们都在等着国产突破,也可以等TPU。
顶尖GPU大厂的新款硬件,看似报价比旧款贵,但因为用量少和生产能力强,其实比旧硬件更实惠。

4.2 每秒Token生产能力

这堆硬件部署的Token引擎,每秒钟能稳定的生产多少个Token?
各种模型调优技术,都是在努力提高Token的生产效率。此处我不做展开分析,就根据我自己的分类方法点个题:
  • 我把模型调优分为动态调优和静态调优,按照这个方法分类有好处。
  • 静态调优就类似于20年前做数据库,因为原厂软件不完善,写个备份恢复脚本都会被当做神迹。但实际上模型原厂、硬件原厂、vLLM和SGLang这类软件原厂,都在快速填补这些技术缝隙。
  • 动态调优,就是我们做在线服务时,根据客户的业务需求和现场的资源环境进行的各种参数调整。比如PD分离究竟几P几D,比如KV cache offload到本地硬盘。只要这些工作没有标准答案,就属于动态调优。

4.3 Token售出的秒数

每天有86440秒,但不可能每一秒生产的Token都能卖出去。因为现在DeepSeek的超高性价比,我拍大腿估了个43200秒。
  • Token消费是个高延迟业务,所以我们可以通过各种跨节点调度的方式,努力提高Token的售出秒数。
  • 现在想来,DeepSeek涨价有个合理的理由,那就是它发现了:现在每天都供不应求可以卖5万秒6万秒;但未来友商追上来了,可能每天就只能卖2万秒了。

4.4 平台软件和人力开销

平台软件开销,指的是管理系统、调度平台、库存备件、安全过滤等服务准备的成本。
人力开销,就是从模型训练、到调度调优、再到运维运营,这一系列泛后端产品研发的工资。

5. 珍惜调整方向的时机

一艘桨帆船在无风的海港里,水手需要自己用力划桨;随着桨帆船跟上洋流和信风,就别琢磨大力划桨了,而是改成扬帆远航吧。
对于生产Token的企业来说,DeepSeek先报个两块的超低价,让大家意识到,必须把自己的Token生产成本打下来。然后他又宣布要上调价格,其实是给了大家3-6个月的喘息周期,抓紧这个机会,我们赶紧调整运营方向吧。
  • 首先,管理层的观念要跟上。上一阶段是在比拼模型能力,现阶段是在比拼Token成本。
  • 其次,降本增效大概率不难。因为从未做过降本增效的领域,稍微动一动就能清理出大量的浪费。
  • 第三,随着大家生产token的规模增大数十倍,资源议价能力会大幅增加、建设效率会大幅提高、人力开销会大幅摊薄。
  • 第四,即使Token本身不能卖高价了,Token上下游还有很多可以收费的地方啊。但那是新的议题了,我也没彻底想清楚,所以本文不展开聊。
最后再强调一下:

我们都讨厌烧钱换营收,但是由产研体系发起的降价,这是产研体系的自信和荣誉。

相关学习资料