夜雨聆风学习资料网

ARTICLE · 1285432

同一块芯片差四倍,差价写在软件里

同一块芯片差四倍,差价写在软件里

同一块芯片差四倍,差价写在软件里

同一块芯片,换个软件跑,成本能差出四倍多。

B200 跑 DeepSeek R1,FP4 每百万 token 只要 0.05 美元,FP8 直接飙到 0.21。硬件算力没变,全靠数据切分和调度策略重新洗牌。

算法甚至开始反过来指挥硬件长什么样。DeepSeek 把训练流程跟 FP8 绑死,逼得英伟达在 Blackwell 里原生支持 FP4。MoE 架构又把通信压力推给芯片,硬生生催生出单机 72 卡的超节点。

最狠的是,什么都不换光改软件,Meta 把吞吐量硬挤出了六成。XHEART 更是先看智驾模型需求再倒推芯片,让客户三周就跑通了原本半年的适配。

不过别神化软件——旧硬件吃不到那四倍红利,为某个模型定制芯片也容易流片即落后。往后买算力,别再光盯峰值,得算算每百万词元到底花多少钱。

原文同一块芯片差四倍,差价写在软件里
收录于AI动态-贴图
山东,1小时前,

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料