超节点:国产算力进攻的“矛”(附下载)

来源：东方证券

扫码加入星球，可获取无限次下载机会！

　AI发展的必经之路：AIInfra全面走向超节点时代。部分投资者认为，超节点只是从八卡向更多个算力卡升级的简单堆砌，而我们认为超节点是训练侧和推理侧算力基础设施发展的必选项，是未来百万卡集群的基石。(1)训练侧：随着模型参数提升以及MoE架构的转变，TP和EP带来大带宽多频次的互联需求，超节点服务器可通过内部高速总线互连，能够有效支撑并行计算任务，缩短大模型训练周期。(2)推理侧：养“龙虾”时代，推理任务对KVCache缓存要求较高，超节点有效解决“内存墙”问题，且单W每秒生成Tokens更高，在推理侧更具性价比。(3)百万卡集群，Scale up先行，超节点是未来大规模集群的地基。

　　Scale up协议走向开源开放，超节点助力国产卡“弯道超车”。超节点可分成整机柜超节点、分机柜超节点、Matrix超节点（级联超节点），主要由计算节点、交换节点、TOR交换机、供电单元、供电母线、电缆桥架/正交背板、液冷散热配套等单元组成。博通、阿里为代表的厂商逐步发起开放标准协议，打破Scale up协议相对封闭的竞争格局，加速超节点生态建设。尽管国产芯片在制程上略有落后，以华为384与GB200NVL72为例，单颗昇腾910C芯片BF16性能仅为GB200模组的1/3，但通过超节点的方式，单个384集群BF16性能总体则是NVL72的1.7倍。

　　超节点服务器带来五大变化趋势。(1)超节点新增Scale up需求，随着Scale up域不断扩大，带动交换芯片配比持续提升；(2)交换节点与计算节点之间需要高速互联，伴随算力卡数量持续提升，逐步催生PCB背板、正交连接器需求；(3)超节点机柜高密化发展，功耗持续提升带动100%全液冷需求；(4)从8卡机到超节点，涉及网络、供电、制冷等多个环节，行业准入门槛提升，价值留存环节增多，服务器ODM厂商迎来价值重估；(5)超节点重构供电架构，带来PSU、HVDC、SST需求。