6月24日,OpenAI联合Broadcom发布首款自研AI推理芯片Jalapeño。9个月从零到量产,专为LLM推理优化。这颗芯片背后,是AI行业从软件走向硬件的深层变革。
OpenAI为什么要自己造芯片?
这个问题其实不难回答。
看看OpenAI的账单就知道了。根据多方报道,OpenAI每月在NVIDIA GPU上的推理支出高达数亿美元。ChatGPT的每一次回答、GPT API的每一次调用,背后都是真金白银的算力消耗。当你的月度算力账单比很多公司的年收入还高时,你就会开始想一个问题:能不能自己造?
这不是OpenAI一家的焦虑。
Google早在2016年就推出了TPU,从v1到现在的v5p,已经迭代了六代。Amazon的Trainium和Inferentia系列已经部署在AWS的机房里。Meta的MTIA v2正在为推荐系统和LLM推理提供算力。AI公司造芯片,已经不是新闻,而是趋势。
但OpenAI的入局方式,还是让人吃了一惊。
9个月,从零到量产
传统芯片的开发周期是多久?18到24个月,这是行业标准。
OpenAI用了多久?9个月。
这个数字有多离谱?我来打个比方:正常情况下,造一颗芯片就像写一本学术论文,你需要调研、设计、验证、流片、测试,每个环节都不能省。而OpenAI把论文答辩的时间压缩到了开题报告的时间。
怎么做到的?
答案是:Broadcom。
OpenAI没有从零搭建芯片设计团队,而是选择了与Broadcom合作。Broadcom是全球顶级的定制芯片设计公司,它不像NVIDIA那样卖通用GPU,而是专门为大客户设计ASIC(专用集成电路)。
ASIC和GPU的本质区别是什么?GPU是万金油,ASIC是手术刀。 GPU什么活都能干,但效率不是最优的;ASIC只为一个场景优化,效率可以做到极致。
OpenAI需要的是什么?是LLM推理。不是训练,是推理。就是你跟ChatGPT聊天时,它生成回答的那个过程。这个过程有一个特点:计算量大、重复性高、延迟敏感。 这恰恰是ASIC最擅长的场景。
Broadcom的9个月极速开发,本质上是一种"定制服务"模式:OpenAI告诉Broadcom"我需要什么",Broadcom负责"怎么造出来"。这种模式降低了设计门槛,但对合作双方的信任度要求极高。
超大Reticle尺寸:这颗芯片有多大?
技术细节中有一个词值得注意:超大Reticle尺寸ASIC。
什么是Reticle?在芯片制造中,光刻机每次曝光的区域是有限的,这个最大曝光区域就叫Reticle。普通芯片的面积都在一个Reticle以内,而OpenAI的Jalapeño芯片超过了这个限制。
这意味着什么?这颗芯片大得离谱。
超大Reticle芯片需要多次曝光拼接,制造难度和成本都会大幅上升。但OpenAI愿意承担这个代价,说明一个问题:他们对推理性能的追求,已经超过了对成本的敏感。
这背后有一个行业逻辑:AI推理的规模效应。 当你的推理请求量达到ChatGPT的级别时,单次推理成本的微小下降,乘以天文数字般的请求量,就是巨额的节省。一颗更大、更贵但效率更高的芯片,在规模化推理场景下反而更划算。
NVIDIA的噩梦来了?
先说结论:短期不会,长期一定会。
NVIDIA目前在AI推理市场的份额超过90%。这个垄断地位建立在一个简单事实上:没有替代品。 你需要AI算力,就得买NVIDIA的GPU,没有第二个选择。
但OpenAI的Jalapeño正在打破这个格局。
虽然Jalapeño是OpenAI自用芯片,不会卖给其他人,但它的意义在于证明了一种可能性:AI公司可以不依赖NVIDIA,自己造出满足需求的推理芯片。
一旦这种可能性被验证,其他公司会怎么做?跟进。
Google已经有TPU了,Amazon有Trainium,Meta有MTIA。现在OpenAI也有了自己的芯片。头部AI公司集体"去NVIDIA化"的趋势正在加速。
但NVIDIA也不是吃素的。Blackwell B200和GB200的性能依然领先,而且NVIDIA的护城河不只是硬件,更是CUDA生态。十几年积累的软件生态,不是一朝一夕能被替代的。
更关键的是:训练侧NVIDIA依然无可替代。 目前所有头部AI公司的训练集群,几乎都依赖NVIDIA GPU。自研芯片主要针对推理,训练仍然需要NVIDIA。
所以NVIDIA短期内不会"崩盘",但推理市场份额的下降是大概率事件。 这对NVIDIA的估值逻辑会产生深远影响。
中国芯片出口暴增110%:另一条线索
就在OpenAI发布Jalapeño的同一周,BBC报道了一个容易被忽略的数据:中国芯片出口额暴增110%。
前重庆市长黄奇帆在公开演讲中表示,芯片已经成为中国第一大出口产品。这个数据的背后,是中国芯片产业在成熟制程领域的快速扩张。
这两件事放在一起看,揭示了一个更深层的趋势:全球芯片格局正在重塑。
高端芯片(7nm以下):美国出口管制限制中国获取,但OpenAI等公司正在通过自研绕过NVIDIA的垄断 成熟制程芯片(28nm以上):中国正在快速扩产,占领全球市场 AI芯片:从NVIDIA一家独大,走向Google、Amazon、Meta、OpenAI多强竞争
芯片行业正在经历一个从集中到分散的结构性变化。
对普通开发者意味着什么?
你可能会想:OpenAI造芯片跟我有什么关系?
关系很大。
如果你是OpenAI API的用户,那么Jalapeño的成功意味着推理成本可能下降。OpenAI自研芯片的核心动机就是降低推理成本,而这个成本节约最终可能体现在API定价上。
但也有另一面:技术锁定的风险。 如果OpenAI的Jalapeño芯片只给自己用,那么依赖OpenAI API的开发者可能面临一个尴尬局面——你用的服务跑在OpenAI的自研芯片上,你想迁移到其他平台?对不起,硬件不兼容。
这就像苹果的生态锁定:你的iPhone只能跑iOS,你的Mac只能跑macOS。当OpenAI的软件和硬件深度绑定时,迁移成本会变得极高。
当然,这还只是推测。Jalapeño目前还在量产前的阶段,实际效果还需要时间验证。但作为开发者,关注AI基础设施的变化,比关注模型本身的变化更重要。 因为基础设施决定了成本结构,成本结构决定了谁能活下来。
总结:一场静悄悄的革命
OpenAI的Jalapeño芯片发布,不是一次简单的产品发布,而是AI行业从软件走向硬件的标志性事件。
它告诉我们三件事:
AI推理的成本结构正在被重塑。 自研芯片的目标是把推理成本砍一半,这将改变整个行业的定价逻辑。
芯片设计的门槛正在降低。 Broadcom的9个月极速开发证明,AI芯片设计不再是少数公司的专利。
NVIDIA的垄断地位正在被侵蚀。 虽然短期内不会崩盘,但长期来看,推理市场的多极化是不可逆的趋势。
这是一场静悄悄的革命。没有发布会的聚光灯,没有铺天盖地的营销,但它可能比任何一次模型发布都更深远地改变AI行业的格局。
夜雨聆风