OpenAI 第一颗芯片来了:它和 GPU 到底有什
OpenAI 和 Broadcom 正式发布了 Jalapeño,这是 OpenAI 第一颗面向大模型推理的 AI 芯片。
但它最重要的地方,不是“OpenAI 也开始造芯片了”,而是它的定位和普通 GPU 完全不同。
GPU 像万能工厂,训练、推理、科学计算、图形任务都能跑;而 Jalapeño 更像给 ChatGPT、Codex、API、Agent 这些大模型服务修的一条推理专用高速路。
大模型推理真正贵的地方,很多时候不只是计算,而是数据搬运:模型参数、KV Cache、缓存、HBM、网络通信要来回移动。Jalapeño 的核心优势,就是围绕 LLM 推理场景重新设计结构,减少不必要的数据搬运,平衡 compute / memory / networking,让每一次回答用户的成本更低。
所以它不是立刻“干掉 Nvidia”,更不是训练 GPU 的替代品。它真正代表的是:OpenAI 正在从模型公司,往模型 + 芯片 + 网络 + 数据中心的全栈 AI 基础设施公司走。
GPU 是通用算力底座,Jalapeño 是 OpenAI 给大模型推理修的专用高速路。
#OpenAI #Jalapeno #AI芯片 #GPU #ASIC #推理芯片 #大模型 #Broadcom #英伟达 #AI基础设施
其它金额
赞赏金额
¥
最低赞赏 ¥0
1
2
3
4
5
6
7
8
9
0
.
广东,1小时前,
夜雨聆风