夜雨聆风学习资料网

ARTICLE · 1129531

AI推理算力

AI推理算力
关注
重播 分享 赞
免责:以下仅为产业思路交流,不构成任何投资建议。赛道高波动,切忌直接据此交易。
AI产业已经走过一轮大模型训练建设热潮,市场与产业重心正在从训练算力切换至推理算力。
通俗来讲:训练是一次性投入打造大模型。
推理是大模型面向用户提供服务,每一次用户提问、AI短剧生成、智能Agent任务调用,都会消耗推理算力,属于长期持续性运营负载。
当前行业数据显示,整体推理算力消耗规模已经远超训练算力,是AI商业化落地的核心底层底座。
不少交易者直接沿用训练芯片的评估逻辑看待推理赛道,属于典型认知误区。
训练算力比拼芯片的峰值计算能力。
推理算力赛道核心考核维度是单Token成本、并发数量、响应时延、内存带宽。
推理最大瓶颈并非芯片计算单元,而是内存带宽,也就是业内所说的“带宽墙”。
模型权重需要反复读取调用,如果内存带宽跟不上,芯片大部分时间处于等待数据的闲置状态,算力利用率被大幅压制。
受此逻辑驱动,内存、高速互联、高速PCB这类配套硬件在整条产业链当中的价值占比明显抬升。
整条AI推理算力产业链可以划分五大板块,各板块核心逻辑以及优质标的梳理如下:
一、云端推理芯片(产业链上游核心)
赛道分化为“训推一体”、ASIC专用推理芯片两条技术路线。
训推一体芯片兼顾训练与推理,软件生态迁移难度低。
ASIC专用推理芯片舍弃部分训练性能,专门针对高并发访问做架构优化,优势在于压低单Token运行成本。
优质标的:
海光信息(688041)训推一体,生态兼容性突出,政企、运营商推理集群落地规模大。
寒武纪(688256) ASIC推理专用路线,思元系列芯片擅长高并发对话、多模态生成推理场景)。
华为昇腾芯片未独立上市,相关机会需要看下游OEM整机厂商。
A股纯正云端大模型推理芯片设计标的并不多,第一梯队就是海光信息、寒武纪。其余大多属于第二梯队(训推一体GPU,推理是其中一部分业务,推理收入占比还不算很高),还有一部分只做边缘端推理,不属于云端大模型推理赛道。
云端推理相关芯片标的(第二梯队)
沐曦股份(688802)训推一体GPU
 核心产品:曦思‑N系列(专门推理)、曦云‑C系列训推一体。
业务情况:
曦思N是专门面向云端大模型推理加速卡。
C系列既可以训练也可以跑推理。已经进入部分运营商、地方智算中心。
优势:
整套软件栈自研,兼顾训练与推理,N系列针对高并发对话、AIGC推理做优化。
短板:
1,商业化起步时间晚于海光、寒武纪,整体出货规模还偏小,客户还在拓展阶段。
2,收入当中训练业务占比仍然更高,推理业务占比正在提升。
摩尔线程(688795)通用GPU训推一体 
核心产品:夸娥系列加速卡,支持训推一体,可以承载大模型推理任务
优势:图形+AI双路线,生态持续迭代;
短板:并不以推理作为主打方向,高并发大模型推理的市场落地规模有限,更多是配套训练业务顺带承接推理负载。
云天励飞(688343)云端+边缘推理NPU,体量偏小 
核心产品:飞元系列AI加速卡
业务情况:
原本以视觉边缘芯片起家;
飞元加速卡切入云端推理,适合视觉类大模型推理,通用大语言模型适配还在迭代。
优势:在视觉多模态推理场景有差异化优势;
短板:不太适合千亿级别大语言模型高并发推理,通用LLM生态偏弱,整体体量很小。
港股相关标的:
天数智芯(01909.HK):训推一体GPU,推理业务是重要组成部分。
壁仞科技(02223.HK),通用GPGPU,兼顾训练与推理场景。商业化还处在持续放量阶段。
主要风险:
1,国产芯片集中投产之后引发价格战。
2,软件生态适配进度不及预期。
二、推理服务器整机(算力硬件载体)
推理服务器和训练服务器产品设计差异明显,更加看重高密度部署、功耗管控与散热效率。
行业属于中游组装环节,整体毛利率偏低,景气度直接取决于云厂商、运营商的资本开支节奏。
优质标的:
浪潮信息(000977)国内服务器整机龙头,国内互联网头部云厂商推理集群核心供应商。
中科曙光(603019)偏向政企市场,智算中心总包能力突出,搭载海光DCU产品。
拓维信息(002261)华为昇腾核心OEM厂商,Atlas推理服务器核心制造方。
主要风险:
1,上游加速卡供货约束。
2,下游客户缩减资本开支带来订单压力。
三、推理集群配套硬件(本赛道弹性较强环节)
推理业务对内存带宽、服务器之间高速互联的强需求,带动整套配套硬件景气上行,也是本轮行情重点爆发方向。
细分包含内存接口芯片、高速光模块、高速PCB‑覆铜板。
优质标的:
澜起科技(688008)内存接口芯片全球龙头,直接受益推理服务器内存扩容。
中际旭创(300308)高速光模块龙头,匹配推理集群高频碎片化的数据互通需求。
沪电股份(002463)、胜宏科技(300476)  AI高阶高速PCB。
生益科技(600183)覆铜板CCL国内龙头,受益上游板材涨价传导。
主要风险:
1,后续上游厂商大规模扩产,消解当前缺货涨价逻辑。
2,海外云厂商资本开支不及预期。
四、数据中心交换机(集群组网中枢)
大规模推理集群具备小包流量多、数据包交互频次高的特点,对交换机小包转发性能提出更高标准,是集群内部通信的核心基础设施。
优质标的:
紫光股份(000938)子公司新华三,国内智算、运营商数据中心交换机主力供应商
锐捷网络(301165)深度绑定国内互联网云厂商,互联网机房交换机份额领先。
主要风险:
1,海外交换芯片供应链扰动
2,行业内部价格竞争加剧。
五、边缘推理算力(端侧本地AI计算)
区别于云端智算中心,边缘推理直接在本地硬件完成AI运算,覆盖车载自动驾驶、安防摄像头、各类嵌入式智能硬件,设备数量庞大,拥有独立的产业周期。
优质标的:
瑞芯微(603893)嵌入式NPU芯片龙头,广泛用于安防、各类嵌入式智能设备。
地平线尚未上市,为车载端推理芯片核心企业。
主要风险:
1,安防、消费电子行业周期性波动
2,车载赛道同业竞争加剧。
赛道核心跟踪指标
不要单纯以厂商发布会参数判断行业景气,重点盯住四个信号:
1、各大云厂商推理业务资本开支计划。
2、市场Token报价,Token价格持续下行往往代表推理算力供给过剩。
3、国产推理芯片真实出货落地的数据,而非新闻宣传。
4、上游PCB、覆铜板、内存产品报价变化,观测供应链景气度。
中长期来看,AI各类应用持续落地会为推理算力带来增量空间,但现阶段赛道最大风险来自推理算力供给释放后的全产业链价格战,以及AI商业化不及预期带来上游资本开支收缩。
算力成长赛道波动巨大,需要持续跟踪产业数据,谨慎看待各类短期消息刺激。

相关学习资料