ARTICLE · 1067016
【AI 前沿】算力过剩还是错配?推理成本暴
【AI 前沿】算力过剩还是错配?推理成本暴
【AI 前沿】算力过剩还是错配?推理成本暴
最近科技圈传出一个反常信号:头部巨头居然在往外抛售闲置的AI算力,吓得硬件股票跟着降温。
其实这波恐慌挺没必要的。现在大模型调用成本跌得跟白菜价似的,国内重复调用的价格,比海外同类服务便宜了整整98%。但这不代表企业用AI的总开销降了——因为模型变聪明了,回答越来越长,干同一件事消耗的字数反而更多。
真正过剩的,是前几年跟风建智算中心囤下来的老旧算力。以前大家砸钱是为了搞模型训练,模型一练完,这些专属算力就闲置了。现在行业重心全转到了日常应用上,推理需求暴涨,高品质的推理算力其实还差一大截。
说白了,未来的竞争不再是看谁家机房大,而是看谁的算力用得好、成本低。
原文【AI 前沿】算力过剩还是错配?推理成本暴跌背后,AI产业正在重新洗牌(文 / 陈砚舟)
浙江,1小时前,