夜雨聆风学习资料网

ARTICLE · 1098218

AI基建成本大洗牌:GPU占比跌破50%,光互连成新王

AI基建成本大洗牌:GPU占比跌破50%,光互连成新王

AI算力竞赛进入新阶段。杰富瑞与美银最新报告揭示:随着AI机架规模扩张,GPU在整体成本中的占比正显著下滑,光互连网络悄然崛起为新价值重心。

数据显示,在NVIDIA AI机架平台中,GPU成本占比已从GB300世代的62.5%降至Rubin世代NVL576 Pod的46%。而机架总采购成本却从416万美元飙升至5525万美元,涨幅超13倍。其中,网络设备与光纤互连占比从8.6%跃升至22.4%,绝对金额突破1200万美元。

这并非GPU降价,而是互连与存储成本加速膨胀。美银援引前微软工程副总裁Fran Cardells观点指出,AI推理与训练本质不同——推理要求低延迟、高本地化内存配置。在智能体AI负载下,KV缓存规模可达模型权重的10倍,上下文窗口向1M token扩展,内存需求持续飙升。

HBM4量产虽使内存BOM占比回落至19%,但供给紧张格局短期难解。更关键的是,当集群从单机架扩展至跨机架Pod乃至数据中心级fabric,机架间光互连与scale-out网络成为不可回避的大额支出。Cardells直言:“高速网络、光子学、内存池化是当前最被低估的AI基建投资主题。”

瓶颈已从“拥有多少GPU”转向“数据流动速度”。受益标的正从GPU供应链转向光学生态:中际旭创、Coherent等光收发模块厂商,博通、Marvell等交换芯片设计商,以及SanDisk、DigitalOcean、HPE等在推理基建布局的企业,有望迎来订单能见度提升。

AI下半场,拼的不是算力密度,而是连接效率。光互连,正从配角走向舞台中央。

投稿:歪芯人
文章内容素材与图片整理于网络新闻等。若涉及侵权,请联系删除

相关学习资料