乐于分享
好东西不私藏

OpenAI 第一颗芯片来了:它和 GPU 到底有什

OpenAI 第一颗芯片来了:它和 GPU 到底有什

OpenAI 第一颗芯片来了:它和 GPU 到底有什

OpenAI 和 Broadcom 正式发布了 Jalapeño,这是 OpenAI 第一颗面向大模型推理的 AI 芯片。

但它最重要的地方,不是“OpenAI 也开始造芯片了”,而是它的定位和普通 GPU 完全不同。

GPU 像万能工厂,训练、推理、科学计算、图形任务都能跑;而 Jalapeño 更像给 ChatGPT、Codex、API、Agent 这些大模型服务修的一条推理专用高速路。

大模型推理真正贵的地方,很多时候不只是计算,而是数据搬运:模型参数、KV Cache、缓存、HBM、网络通信要来回移动。Jalapeño 的核心优势,就是围绕 LLM 推理场景重新设计结构,减少不必要的数据搬运,平衡 compute / memory / networking,让每一次回答用户的成本更低。

所以它不是立刻“干掉 Nvidia”,更不是训练 GPU 的替代品。它真正代表的是:OpenAI 正在从模型公司,往模型 + 芯片 + 网络 + 数据中心的全栈 AI 基础设施公司走。

GPU 是通用算力底座,Jalapeño 是 OpenAI 给大模型推理修的专用高速路。

#OpenAI #Jalapeno #AI芯片 #GPU #ASIC #推理芯片 #大模型 #Broadcom #英伟达 #AI基础设施

微信扫一扫赞赏作者喜欢作者

    正在加载...
      正在加载...
      名称已清空
      微信扫一扫赞赏作者
      喜欢作者其它金额
      作品
      暂无作品
      喜欢作者
      其它金额
      最低赞赏 ¥0
      其它金额
      赞赏金额
      ¥
      最低赞赏 ¥0
      1
      2
      3
      4
      5
      6
      7
      8
      9
      0
      .
      广东,1小时前,