
1、超节点性能对标与参数取舍逻辑
•NVL72与国产超节点性能对比:NVL72的核心硬件优势在于NVL C2C互联可实现Grace CPU与GPU缓存一致性,推理端高容量TV Cache可卸载到内存,极大拓展超长上下文能力,该能力是一体化硬件设计的结果,与单纯的内存、带宽优势不属于同一维度。国产超节点方面,仅华为具备CPU、GPU、互联带宽全栈自研能力,阿里接近华为水平,其余第三方厂商的超节点均采用解耦架构,硬件层面已存在较大差距,互联协议改造效率也远低于具备一体化设计能力的厂商,最终性能差距明显。软件层面,当前大量模型预训练多采用FP8到FP6、FP16混合精度,更多场景已使用FP4,BF16精度资源消耗更高,易出现内存溢出,效率低于主流精度方案,且量化后需要投入大量研发成本保障模型准确度,因此当前国产超节点暂无法直接对标NVL72。目前国产超节点多通过数量堆叠的方式弥补效率不足,主流产品包括深腾384、1024卡950P、阿里PPU1.5代磐久128,二线国产超节点也在推进相关研发工作。
•超节点规模延时利用率取舍:超节点的规模、延时核心硬件制约因素为芯片C Die的Serdes数量与互联芯片带宽,协议开发效率与厂商自研芯片能力正相关,国际厂商博通已对原TH芯片进行改造推出TF BOM,抢占超节点赛道市场。当前国产超节点的参数取舍逻辑优先级明确:a. 利用率第一位,推理端最终追求token成本,利用率提升是核心目标;b. 延时其次,延时的硬件限制属于物理约束,可通过软件优化提升部分性能;c. 规模最后,受利用率、延时的前置限制,当前规模难以大幅扩张,后续可通过scale up方式进行弥补。
2、CSP招标逻辑与交换芯片替代
•CSP招标核心考量因素:CSP招标核心优先级首先为供应链安全与持续供应能力,一线CSP引入国产CPU最小量级为万片以上,需对芯片进行系统性优化以适配自身软件栈。CSP不会为采购硬件接受硬件厂商提供的自研软件避免被绑定,要求芯片厂商针对CSP需求做定制化软件开发。其次为软件层面的核心要求,软件栈开放程度直接决定其能否大规模应用到CSP的整体平台中,原厂算子层开发能力与投入会影响CSP后续软件研发投入及上线周期,和最终成本直接相关,上述两点是CSP选择供应商的首要基准。CSP对专有总线/开放以太网无特殊偏好,更倾向自研超节点内部芯片与协议,2024-2025年提出的纯以太网互联方案均未通过。
•盛科交换芯片替代进展:当前主流国产超节点产品包括摩尔线程S6000、碧润BR200、阿里PPU1.5代等。目前盛科芯片替代进度较慢,仅摩尔线程二期采用润科交换芯片,其余超节点大多采用自研方案或小型第三方厂商开发的芯片,盛科暂无大规模scale up场景应用。
3、超节点量产堵点与采购格局
•超节点量产核心堵点:超节点量产核心堵点为C Die主芯片供应,是当前国产超节点最大量产堵点。次一级堵点包括高端PCB交期较长,100kW以上机柜的高压直流电源研发进度及高压安规问题,以及互联芯片、Serdes供应不足。散热件、结构件从当前订单递交情况来看无供应压力,处于正常工程研发进度。
•各领域客户采购结构:各领域客户采购结构如下:
互联网CSP采购:a. 阿里PPU1.5代总规划50万片,80%为超节点用于公有云,剩余风冷机型用于混合云;同时引入升腾950PR作为第二大规模采购芯片,以四进三或五进三的方式储备1-2款国产芯片作为备选,海光DCU早已引入测试,最终备选厂商暂未明确;b. 字节跳动采购寒武纪芯片,升腾950PR2026年5月开始交付,总量约十几万张,具体交付节奏暂不明确。 运营商采购以升腾产品占比最高,摩尔线程S6000超节点大概率进入中国移动数据中心,其下一代芯片die规划量50万以上,最终交付规模与前端销量挂钩。 政企客户采购以价格为核心考量,阿里PPU1.5代交付上限有限,1.7代正在加速研发,未来出货规模更大。
•自研与第三方超节点关系:互联网厂商首选自研超节点,整套系统自研可实现最高token效率、最优成本,第三方超节点仅为替补,只有具备大规模供应能力才可能成为互补。政企客户更偏好开箱即用的交付方式,首次采购成本是其核心考量因素。
•迁移与适配开发成本:跨平台迁移成本较低,在CSP投资中占比极小,CSP更关注设备对自身软件栈的适配性。设备适配开发成本较高,通常需百人团队驻场6个月以上才能实现设备稳定运行。
4、国产超节点性能测试与产能节奏
•国产超节点推理性能测试:当前国产超节点测试数据显示,PPU1.5是已测产品中投入产出比最高的选项,各厂商风冷八卡机器的token生成效率测试数据如下:a. PPU1.5代风冷机型可实现5万/台/月的token生成效率,超节点尚未完成优化的前提下效率已达风冷机型的2-3倍,对应128集群还可再乘以芯片数量放大规模效应;b. 沐曦风冷机型的token生成效率约为2.5万/台/月,目前其C600超节点尚未推出;c. 摩尔线程S500的效率约为3-3.5万/台/月,但存在显存不足的短板,实际商用场景中需搭配英伟达集群做TTN0效果更佳;d. 海光BW1100的效率低于3万/台/月,核心原因并非芯片性能不足,而是算子软件优化投入不足,导致优化成本较高。
•各厂商超节点产能节奏:目前各主流国产芯片厂商超节点产能及交付节奏情况如下:a. 昆仑芯P800超节点:华三出货量小于100柜,中兴出货量在300-500柜区间;b. 必润BR200:目前仍处于仿真阶段,尚未拿到完整样片,2027年上半年计划交付近400柜,采用博通TF One交换机的84卡超节点架构,后续有两个核心客户要求扩容至万卡规模;c. 海光:过往交付主要面向郑州数据中心,以自主交付为主;d. 寒武纪690:目前处于小批量量产阶段,已进入阿里采购目录,但交付规模及测试情况尚不明确,主要交付自用;e. 升腾:当前主力交付910C产品,或受产能影响部分ODM商仍在交付910B4,950TR交付节奏加快,预计2026年底总交付规模可达30-50万张。
5、国产AI芯片评估与训练能力分析
•超节点出货规模与整机份额:出货规划方面,华三2026年核心布局PPU机型,下半年PPU出货规模为6000-10000台;磐久128超节点由其他两家ODM厂商交付,总规划规模约40万片。升腾相关出货数据暂不明确,销售数据评估不属于相关领域擅长范围。
•国产AI芯片性能梯队排序:国产AI芯片实测性能可划分为两大梯队:a. 第一梯队包含两款产品:阿里PPU1.5代是当前实测token效率最高的产品,依托成熟制程控制生产成本,同时阿里在软件栈优化上投入力度大,自有大软件平台保障了产品兼容性与使用效果;升腾950采用FP架构,对模型的支持效率较高,除过于复杂的模型或有CSSP要求的场景外,实际使用效率表现优异。b. 第二梯队产品各有优劣:沐曦C550软件兼容性最佳,无需依赖原厂支持即可完成适配,软件适配投入成本较低,单台月成本低于2.5万即可回本,但硬件性能相对偏弱;海光DCU芯片本身性能优异,但算子优化不足,无法充分发挥芯片实际效率。其余厂商下一代芯片暂未量产,暂无有效实测数据。
•国产芯片基础模型训练能力:当前国产AI芯片尚未出现成熟的大规模基础模型预训练商用案例。公开可查的相关实践仅有两类:其一为华为开展的小规模模型预训练,参数规模仅为数十B,体量较小参考价值有限,无公开完整测试数据;其二为阿里PPU1.0代产品,为美国对华芯片限制出台前流片,仅用于涉密特殊项目,无公开完整测试数据。整体来看,目前国内暂无表现优异的可用于基础模型预训练的商用AI芯片。
6、液冷部署进展与超节点技术现状
•国内液冷技术部署进度:### 液冷技术分路径进展冷板式液冷交付进度良好,ODM厂商已基本具备批量交付能力,落地进度取决于大型CSP或运营商的机房配套环境是否支持大规模交付。浸没式液冷当前参与厂商较少,处于先导项目投入测试阶段,针对单芯片小于1000W的高密场景测试,预计2027年上半年实现明确量产交付。
头部厂商液冷产品交付节奏
各厂商液冷相关产品交付节奏如下:a. 阿里盘古九128超节点预计2026年9-10月量产交付;b. 海光DCU采用两相变浸没式液冷,已具备量产交付能力;c. 昆仑芯原有液冷超节点规模较小,以32卡为主,P900以液冷版本超节点为主;d. 摩尔线程S6000风冷采用单die芯片、液冷采用双die芯片,液冷版本最大可支持256卡,2026年初启动定型设计,预计2027年上半年交付;e. BR200液冷超节点为8卡设计,首批预计2027年3月小批量交付约几十柜,年中将推出互联芯片等全栈国产的第二版本,预计2027年Q4/年底有望实现万卡规模交付。
•超节点技术路线与下半年放量:### 国产超节点技术路线划分国产超节点技术分为两类:第一类为具备核心自研能力的厂商:一是升腾,从CPU、GPU/加速卡到互联芯片全硬件自研,同时具备灵渠全栈内置语义交互研发能力,紧耦合程度最高;二是阿里磐久128,核心优势为互联芯片研发能力强,紧耦合程度仅次于升腾,二者最大差距在软件栈兼容性。第二类为其余国产芯片厂商,核心短板为C Die的I/O设计(含Serdes数量、外引脚设计)以及与第三方互联芯片(国产代表为圣科、中兴微、可通智联)的适配难度,因芯片与互联芯片非同一家设计,难以实现无缝连接、性能最优。
2026年下半年放量情况
2026年下半年仅升腾950、阿里盘古、昆仑芯P900具备量产能力,其余厂商产品均未达量产阶段;其中昆仑芯P900为上一代产品,软件栈优化不足,部分领域适用性有限。
7、超节点相关技术趋势分析
•PCIE在超节点中的作用与趋势:超节点产品设计中,GPU加速卡做scale up时优先通过RDMA网卡实现对外互联,或直接出光连接交换柜,PCIE的作用被弱化,训练、推理场景尽量减少PCIE拓扑的使用。PCIE芯片需求趋势方面,短期需求无上涨空间,未来将向边缘/侧端推理场景演进,当模型通过量化、优化压缩后可部署在单卡实现侧端、边缘端推理时,PCIE卡将具备应用空间。此外八卡PCIE机组长时间存在,由于超节点采购成本高,仅CSP和运营商能够承担,普通行业客户更倾向于优先低成本落地,八卡SM模组适配当前参数量持续提升的模型部署需求,将长期存在。
•ASIC推理芯片的分流影响:当前ASIC专用推理芯片暂不会对GPGPU形成实质性分流,核心原因是大模型仍处于快速迭代阶段,ASIC研发人力资源投入成本极高,一旦模型迭代,前期所有投入将全部归零。仅CSP自研的ASIC芯片可在部分非常特定的领域少量采用,大规模推理token生成场景目前较少使用这类芯片,当前大规模推理部署仍以GPGPU为主。
•内存池化对内存需求的影响:超节点内存池化和内存需求量属于两个维度的问题,内存池化的核心作用是降低token成本、提升超长上下文能力,可实现GPU的key cache通过CPU管理的内存做offload,优化token效率与问答体验,并不会降低内存需求,反而为支持超长上下文可能加大内存投入。CXL等共享内存池技术目标是降低内存消耗量,但落地尚早,预计2028年左右才能明确应用趋势,当前阶段优先保障模型使用体验。
•HBM内存墙的突破路径:HBM内存墙的核心突破方向为工艺与材料,多层堆叠的散热问题是核心瓶颈,需通过材料选型解决多层间热量传导、外部散热问题,才能实现HBM堆栈与C die的封装。国产3D DRAM方面,东方创新DF1000处于初步尝试阶段,当前良率偏低,成本与现有HBM差距不大,暂无完整的应用效果数据。针对内存墙性能提升,硬件是核心基础,软件仅能起到辅助加强作用,算子优化可大幅提升性能,其余软件层面内存相关优化效率提升有限,若CPU性能不足,KV Cache offload到CPU的效果不佳。
Q&A
Q:国产超节点能否在BF16精度和内存带宽优势上面对标NVIDIA NVL72?
A:NVIDIA NVL72的硬件优势源于Grace CPU与GPU通过高带宽互联实现缓存一致性,显著提升超长上下文推理能力。国产超节点中,仅华为具备全栈自研能力,阿里接近该水平,其余厂商多采用CPU、GPU与互联解耦架构,硬件层面存在显著差距,导致协议改造效率较低。软件层面,BF16精度相比FP8/FP4等混合精度方案资源消耗更高,易引发内存溢出且效率下降,同时量化需额外工程投入。当前国产方案主要通过数量堆叠弥补scale-up效率不足,尚无法在综合性能上直接对标NVL72。
Q:在国产超节点的scale-up设计中,如何权衡规模、延时和利用率?
A:硬件层面,芯片C Die的Serdes数量与互连带宽构成核心制约;软件层面,协议开发效率直接影响性能。国产超节点实践中,利用率被置于首位,延时次之,规模受前两者限制,通常以scale-up方式补充。国际厂商如博通通过TFN芯片改造抢占市场,而国产方案在协议自研能力上呈现分化,整体效率仍有提升空间。
Q:云服务提供商在超节点招标中,更关注专用总线还是开放以太网架构?
A:CSP决策核心聚焦供应链安全与持续供应能力,以及软件栈开放程度与原厂算子层开发能力。超节点内部采用专用总线或开放以太网并非关键考量;CSP更倾向自研互联协议或芯片。2024至2025年曾有CSP要求纯以太网方案但均被否决,印证该技术路径非决策重点。
Q:盛科国产交换芯片在超节点scale-up互联中的应用进展如何?
A:当前主流超节点中,仅摩尔线程一期项目采用润科交换芯片,其余多采用自研方案或小型第三方厂商芯片。盛科在scale-up互联领域尚未观察到规模化应用或替代进展。
Q:在国产超节点高密机柜的液冷、高速互联等环节中,当前量产的主要瓶颈是什么?
A:C Die主芯片是当前最核心的量产堵点。次要瓶颈包括高端PCB板交期较长、超百千瓦机柜所需的高压直流电源研发进度与安规认证、互联芯片供应稳定性等。散热件与结构件目前工程研发进度正常,暂未构成显著制约。
Q:国内互联网CSP、运营商、政企客户在国产AI芯片的采购份额分布如何?自研超节点与第三方超节点是替代关系还是互补关系?
A:采购结构方面:阿里PPU1.5代规划总量约50万片;字节主采寒武纪与升腾910B;运营商以升腾系列为主;政企客户以价格为导向,阿里在政企市场进展良好但PPU1.5交付上限受限。关系层面:互联网厂商优先自研超节点,第三方方案仅作替补;政企客户倾向开箱即用方案,关注首次采购成本与交付便捷性。
Q:国产AI芯片迁移至超节点的覆盖率和迁移成本情况如何?
A:迁移覆盖率已超99%。迁移本身成本较低,但CSP更关注软件栈适配的开发成本,通常需部署百人级团队进行6个月以上深度优化,该投入在整体成本中占比较高,是实际落地的关键考量。
Q:当前国产超节点的推理token成本与计算效率如何?2024年国产AI芯片的产能与交付节奏怎样?
A:token成本方面:阿里PPU1.5代风冷机器月租金约5万元/台,超节点效率达风冷2–3倍;沐曦TCU约2.5万/台/月;摩尔S5000约3–3.5万/台/月;海光DCU低于3万/台/月。产能节奏:昆仑芯P800;壁仞BR200计划2027年上半年交付约400柜;升腾910C持续交付中,部分厂商回交910B4;升腾910B交付加速,预计2024年底累计交付30–50万片。
Q:2024年及2025年国产超节点的整体出货规模如何?各家整机厂如何分配这些出货量?
A:以华三为例,2024年下半年PPU整机出货目标为6000–10000台;磐久128超节点由其他ODM商生产,总规模约40万片。升腾系列详细出货数据暂未披露。
Q:请对当前国产AI芯片的实测性能进行排序,并说明与海外芯片的对标位置。
A:以TCU为维度:阿里PPU1.5代最优,受益于成熟制程与深度软件优化;升腾910B次之;沐曦C550软件兼容性最佳但硬件性能较弱;海光DCU芯片基础性能良好,但算子优化与软件投入不足制约实际效率。摩尔S6000、壁仞BR200等下一代产品尚未量产,暂无法纳入实测评估。
Q:国内哪些AI芯片适合基础模型训练?有无实测案例?
A:华为曾进行小规模模型预训练,但数据不完整且参考价值有限;阿里PPU1.0代用于特殊涉密项目,训练效果良好但无公开验证数据。目前国产芯片在基础模型训练领域尚无具备行业影响力的实测案例。
Q:海外单机柜功耗突破100kW的液冷部署进度如何?国内液冷部署进展怎样?
A:冷板式液冷已具备批量交付能力,实际部署取决于客户机房基础设施条件;浸没式液冷处于先导项目测试阶段,预计2025年上半年实现规模量产。国内进展:阿里磐久128超节点计划2024年9–10月量产;升腾、海光DCU已具备量产能力;昆仑芯P900维持小规模液冷交付;摩尔S6000液冷版采用双Die设计,计划2025年上半年交付;壁仞BR200首批液冷超节点预计2025年3月小批量交付,年底或实现万卡级部署。
Q:国内超节点技术进展如何?2024年下半年放量是否困难?
A:技术路径分两类:全栈自研型在硬件集成与协议研发上领先,但软件栈兼容性仍有差距;其他厂商在芯片C Die设计与第三方互联芯片协同方面存在明显短板。放量方面:2024年下半年除升腾910B与阿里磐久外,其余超节点尚未进入规模量产阶段;昆仑芯P900虽可交付,但属上一代架构且软件优化不足,适用场景有限。
Q:超节点中PCIe的作用是什么?超节点趋势是否会削弱PCIe芯片需求?
A:超节点架构中,PCIe作用被显著弱化,scale-up互联主要通过专用芯片或光连接实现,训练/推理拓扑设计中尽量减少PCIe路径。PCIe卡将向边缘端与侧端推理演进,适用于模型压缩后的轻量部署场景。当前因超节点首次采购成本高,八卡风冷模组仍为主流形态;PCIe卡需求短期承压,待模型收敛或视频处理、智能巡检等特定领域需求释放后,需求或逐步回升。
Q:推理算力需求爆发,专用ASIC芯片是否会对GPGPU形成实质性分流?
A:当前大模型迭代尚未达稳定阶段,专用ASIC芯片研发成本高且模型变更将导致前期投入归零,CSP普遍持谨慎态度。大规模推理仍以GPGPU为主流方案,专用ASIC芯片在可预见周期内难以形成实质性分流。
Q:超节点的内存池化是否会导致内存需求下降?
A:内存池化核心目标为降低token成本与提升超长上下文处理能力,通常不会减少内存总需求,反而可能因追求更长上下文而增加使用量。CXL等共享内存池技术理论上可优化部分内存消耗,但当前效果尚未明确验证,行业预计需至2028年方能清晰评估。现阶段产业重心仍聚焦于模型推理体验优化。
Q:HBM内存墙问题主要通过软件还是硬件提升性能?国内3D DRAM进展如何?
A:HBM内存墙本质是工艺与材料问题,多层堆叠带来的散热挑战需通过层间热传导材料与外部散热方案协同解决。软件优化仅能有限改善,无法根本突破。国内长鑫等企业在3D DRAM领域进行初步尝试,但当前良率不高,成本与HBM差距有限,量产应用仍需工艺与材料层面的实质性突破。
:
夜雨聆风