乐于分享
好东西不私藏

AI ASIC进入规模化部署!5家相关公司名单

AI ASIC进入规模化部署!5家相关公司名单

大模型商用成熟后,单日调用规模可达数亿乃至数十亿次。对于谷歌、亚马逊这类流量平台,专用芯片若能够降低单次推理成本,依托庞大调用基数,长期能够形成可观的费用节约,这也是AIASIC进入规模化部署阶段的底层逻辑。

编辑|白鹿

投顾支持 | 于晓明

执业证书编号:A0680622030012

特别提示

通过本公众号发布的观点和信息仅供陕西巨丰投资资讯有限责任公司(下称“巨丰投顾”)客户中符合《证券期货投资者适当性管理办法》规定的特定客户参考。因本公众号暂时无法设置访问限制,若您并非巨丰投顾客户,为控制投资风险,请您取消关注,请勿订阅、接收或使用本公众号中的任何信息。对由此给您造成的不便表示诚挚歉意,感谢您的理解与配合!

Risk Disclosure

头部云厂商加速落地自研AI芯片,成本优势是核心驱动力

谷歌今年预计出货332.6万颗TPU,亚马逊Trainium3预期出货量约147万颗。国内自研芯片同样迈入量产周期,阿里自研AI芯片截至今年5月累计出货56万片,字节SeedChip年内量产目标不低于10万颗。头部企业具备直接采购英伟达GPU的渠道,仍持续投入数年时间、数十亿美元推进自研芯片开发,核心驱动因素来自长期算力成本优化。AI计算分为训练与推理两大阶段,训练主要用于模型迭代调试,集中在特定周期开展;推理面向终端用户持续调用,具备全天候不间断运行特征。大模型商用成熟后,单日调用规模可达数亿乃至数十亿次。对于谷歌、亚马逊这类流量平台,专用芯片若能够降低单次推理成本,依托庞大调用基数,长期能够形成可观的费用节约,这也是AIASIC进入规模化部署阶段的底层逻辑。

AI通用GPU与专用ASIC底层设计思路存在显著差异

英伟达GPU核心竞争力在于通用性,可灵活适配语言模型、视频模型等各类AI任务,依托CUDA软件生态形成行业壁垒,当前绝大多数AI开发框架原生适配CUDA体系。通用能力同时带来硬件冗余成本,GPU预留大量通用计算与控制电路来适配多元化任务。ASIC即专用集成电路,设计思路与之相反,针对特定AI计算场景定向开发硬件架构,舍弃不必要通用模块,将芯片面积、功耗资源集中供给高频计算任务。大模型运行过程中矩阵运算占比极高,ASIC会针对性设计矩阵计算单元,同时优化内存架构与数据传输通路,谷歌TPU搭载的MXU单元就是面向矩阵运算的专用计算模块。两者核心区分标准清晰:GPU追求全场景通用,ASIC主动缩减通用性,针对固定计算任务优化算力与功耗。

推理场景更适配ASIC落地,严苛前提决定应用边界

模型训练阶段,网络结构、算子、精度标准、训练策略持续迭代调整,硬件架构若设计过于固化,算法迭代后极易出现运行效率下滑,GPU的灵活属性在训练环节具备不可替代价值。模型完成上线商用之后,面向海量用户持续运行固定版本模型,整体计算流程趋于稳定,当业务体量足够庞大时,具备开发专用芯片的基础条件。

海外科技企业普遍遵循该落地路径:Meta依托海量推荐、广告业务推出MTIA;亚马逊面向自有业务与AWS云客户打造Trainium;微软为AzureCopilot开发Maia;谷歌围绕搜索、Gemini与云业务持续迭代TPUASIC并非全方位优于GPU,规模化落地存在明确约束条件。算力需求规模不足时,高昂研发与流片成本难以摊薄,综合成本高于外购GPU;模型持续快速迭代、计算形态频繁变动,专用芯片架构也容易快速落后。只有计算任务长期稳定、调用体量充足,ASIC长期节省的能耗与算力成本,才有可能覆盖前期巨额投入。相关测试数据显示,谷歌TPUv5e能效约为H1003倍,TPUv5单位算力成本约为H10070%,不同测试环境下数据仅作参考,但能够印证大厂自研芯片的降本诉求。

海外大厂迭代方向清晰,训练、推理芯片走向硬件分离

谷歌在今年4月发布第八代TPU,产品完成功能拆分,TPU8t面向训练场景,TPU8i专门服务推理场景,告别过去单套硬件兼顾多种任务的设计思路,针对两类任务的算力需求、内存配置、芯片互联方案独立优化。亚马逊Trainium3处于出货爬坡阶段,今年预期出货147万颗,下一代Trainium4计划12月推出。MetaMTIA300实现量产,现阶段承载搜索与推荐业务,后续MTIA450500将转向生成式AI推理场景。微软今年2月发布面向推理的Maia200芯片,部署于Azure算力集群,支撑GPT-5.2Microsoft365Copilot等应用。AIASIC已经从企业内部小规模试验项目转向规模化商用。

DIGITIMESResearch预测全球高端AIASIC出货量由2025513万颗提升至2026723万颗;TrendForce测算,2026年搭载AIASIC的服务器占整体AI服务器出货量比例为27.8%2030年有望提升至39.5%GPU依旧是算力市场主流,成熟稳定、迭代速度放缓的AI任务,将逐步由ASIC承接。

国内互联网平台同步推进自研NPU,落地逻辑与海外趋同

国内头部企业布局自研AI芯片的底层逻辑和海外厂商保持一致。字节跳动依托抖音推荐、广告业务以及豆包大模型形成海量算力需求,自研SeedChip采用NPU架构,年内量产目标不低于10万颗,远期规划35万颗,芯片优先供给内部业务,不对外售卖。平头哥真武810E已在阿里云落地多个万卡算力集群,今年5月推出真武M890,配套128卡磐久超节点,截至5月平头哥AI芯片累计出货56万片,服务多行业客户。百度昆仑芯P800落地多个万卡集群,7月发布M100芯片,主打云端大规模推理场景。腾讯7月推出紫霄2.0,计划年底将自研芯片部署规模扩充至10万卡级别。

自研芯片侧重需求定义,产业链依托多方协同完成

谷歌TPU这类自研芯片,并非企业独立完成全流程生产制造。自研厂商核心工作为需求定义,明确芯片适配模型、算力指标、内存带宽、网络带宽、功耗上限,并完成整体架构设计。芯片架构确定后,电路设计、IP模块、互联接口等细分环节一般交由专业半导体企业协同开发。芯片设计定稿后,还需要晶圆代工、先进封装环节配合,搭配HBMPCB、光模块、电源、液冷设备,组装为完整AI服务器。ASIC规模化发展,推动AI算力芯片市场从GPU单一主导,转变为GPU与定制化芯片并行发展。但GPU不会被替代,模型创新训练需要硬件灵活性,大量中小算力需求方也难以承担自研芯片的投入。

具备自研ASIC实力的主体,集中在谷歌、亚马逊、Meta、阿里、字节等拥有持续稳定巨量算力需求的平台企业。ASIC长期市场空间最终取决于核心指标:依托芯片节约的推理成本,能否覆盖芯片研发、量产、部署产生的全部前期投入。

相关公司

寒武纪:国内原生云端 AI ASIC 设计龙头,思元系列芯片采用自研专用架构,面向大模型训练与云端推理,多款产品批量落地国内智算中心。

芯原股份:一站式 ASIC 定制设计服务商,提供 IP 授权与芯片全流程开发服务,承接多家互联网大厂自研 AI 专用芯片设计项目,深度受益云厂商 ASIC 自研浪潮。

云天励飞:自研端侧 AI ASIC 芯片,面向边缘大模型推理场景,依托自有算法场景持续迭代专用算力芯片,实现算法与硬件协同优化。

688***:内存接口芯片龙头,配套 AI ASIC 解决内存带宽瓶颈,高速互连芯片适配各类专用算力芯片,为云端 ASIC 集群提供关键配套硬件。

300***:深耕端侧 AI NPU/ASIC 研发,面向边缘与终端推理场景开发专用算力芯片,持续拓展 AIoT、本地大模型硬件落地场景。

... ...

扫码回复“8-AI ASIC查看行业公司介绍并可免费诊股还可咨询实操指导服务!

免责声明

陕西巨丰投资资讯有限责任公司(以下简称"巨丰投顾")出品的所有内容、观点取决于市场上相关研究报告作者所知悉的各种市场环境因素及公司内在因素。盈利预测和目标价格的给予是基于一系列的假设和前提条件,因此,投资者只有在了解相关标的在研究报告中的全部信息基础上,才可能对我们所表达的观点形成比较全面的认识。

巨丰投顾出品内容仅为对相关标的研究报告部分内容之引用或者复述,因受技术或其它客观条件所限无法同时完整提供各种观点形成所基于的假设及前提等相关信息,相关内容可能无法完整或准确表达相关研究报告的观点或意见,因而仅供投资者参考之用,投资者切勿依赖。任何人不应将巨丰投顾出品内容包含的信息、观点以及数据作为其投资决策的依据,巨丰投顾发布的信息、观点以及数据有可能因所基于的研究报告发布日之后的情势或其他因素的变更而不再准确或失效,巨丰投顾不承诺更新不准确或过时的信息、观点以及数据,所有巨丰投顾出品内容或发表观点中的信息均来源于已公开的资料,我公司对这些信息的准确性及完整性不作任何保证。巨丰投顾出品内容信息或所表达的观点并不构成所述证券买卖的操作建议。

相关内容版权仅为我公司所有,未经书面许可任何机构和个人不得以任何形式转发、翻版、复制、刊登、发表或引用