乐于分享
好东西不私藏

颠覆AI推理?TensorDyne Napier处理器解读

颠覆AI推理?TensorDyne Napier处理器解读
最近 AI 芯片赛道又迎来了一位 “不走寻常路” 的新玩家 ——TensorDyne 发布了名为 Napier 的 3nm AI 处理器,以及配套的机架级推理平台。和市面上大多数 “堆算力、拼工艺” 的 AI 芯片不同,这家公司的核心武器,竟然是 对数数学 :通过把乘法运算转化为加法,重构 AI 加速器的底层逻辑,试图从根本上解决当前大模型推理的成本与效率瓶颈。

01

为什么要改 “数学”?AI 推理的新解法
传统的 AI 加速器,核心都是围绕高密度的矩阵乘法单元(也就是我们常说的 TOPS/FLOPS)来设计的。但乘法器本身面积大、功耗高,这就导致芯片里大量的硅面积都被用来做计算,留给内存的空间被压缩了。
而 TensorDyne 的对数数学方案,核心思路很简单:把乘法运算转化为加法运算。我们都知道, log(a*b) = log(a) + log(b),通过对数转换,原本复杂的乘法就变成了简单的加法。而加法器的面积和功耗,可比乘法器小太多了!
这样一来,省下来的硅面积,就可以用来放更多的 SRAM—— 也就是片上内存。TensorDyne 声称,Napier 的 SRAM 容量,是 NVIDIA Blackwell 的 5 倍!更多的片上内存,意味着更多数据可以就近存在计算单元旁边,不用频繁在芯片内外搬来搬去,这就能大幅降低数据搬运的开销,提升系统的整体效率。

这其实是一种完全不同的设计思路:不是单纯堆更多的计算单元,而是通过优化底层运算,让芯片的计算和内存更平衡,解决当前 AI 推理里 “算力过剩、内存和带宽不够” 的痛点。

02

万亿参数模型?效率碾压传统方案?
现在的大模型推理,早就不是单个芯片的问题了。尤其是 MoE(混合专家)模型、长上下文推理、智能体工作流,这些场景的瓶颈,早就从 “单个芯片的算力” 变成了整个机架的内存容量、互联带宽、功耗和散热。
TensorDyne 直接做了一整套机架级的系统 ——TDN72。这套系统里,一个标准机架里就能放下 72 颗 Napier 芯片,总共提供 68PFlops 的总算力,以及 42TB 的 HBM3E 内存。更夸张的是,他们说这套系统,就能搞定 2 万亿参数的 GPT MoE 模型 !

他们给出的对比数据非常惊人:
  • 对于 2 万亿参数的模型,TensorDyne 的 TDN72 单机架(120kW),就能实现 1300 tokens / 秒的用户推理速度;
  • 而如果用 NVIDIA 和 Groq 的方案,需要 9 个机架、1.5MW 的功耗才能达到同样的效果;
  • 就算是 AWS+Cerebras 的方案,也需要 14 个机架、800kW 的功耗。

这意味着,同样的推理任务,用 TensorDyne 的方案,只需要 1/9 的机架空间,1/12.5 的功耗?这差距也太大了。而且他们的目标还不止 2 万亿,这套系统甚至能支持 10-20 万亿参数的超大模型 —— 这已经是目前行业里最前沿的模型规模了。

03

Napier 芯片本身:3nm 工艺,1380 亿晶体管
那这个 Napier 芯片本身,到底是什么水平?
  • 工艺:台积电 3nm 工艺;
  • 晶体管:1380 亿颗;
  • 算力:单颗芯片 2.1PFlops;
  • 频率:加速器核心 1.33GHz,CPU 核心 1.5GHz;
  • 内存:256MB SRAM,144GB HBM3E;

刚才提到的 5 倍于 Blackwell 的 SRAM,就是这里的关键。更多的 SRAM,就能把更多常用数据存在片上,减少对 HBM 的访问,这对于推理任务来说,提升是非常明显的 —— 毕竟推理的时候,很多数据是反复使用的,不用每次都去访问远得多的 HBM。

04

风冷就能跑?这套系统的设计巧思
除了芯片本身,TensorDyne 的系统设计也很有特点。
首先,他们做了模块化的设计:9 颗 Napier 芯片,被做成了一个 1U 高度的 AI 计算托盘,这个托盘里就有 1.3TB 的 HBM3E,还有 8TB 的存储,以及 Intel Xeon 的主机 CPU,还有双 200GbE 的网络接口。

然后,4 个这样的托盘,组成一个 TDN Pod,4 个 Pod 就能塞进一个标准的 52U 机架里,刚好就是 72 颗芯片的 TDN72 系统。

更有意思的是,这套系统是 风冷 的!现在市面上的大规模 AI 系统,基本都要上液冷了,因为功耗太高,风冷压不住。但 TensorDyne 的方案,因为整体效率更高,单颗芯片的功耗控制得更好,所以普通的风冷就能搞定,这对于部署来说,成本可就低太多了,不用改造数据中心的液冷基础设施。
然后是互联,他们做了自己的 TDN Link 互联技术,整个 72 芯片的系统里,芯片到芯片的延迟能做到亚微秒级,总带宽能到 1TB/s!这对于 MoE 模型来说太重要了 ——MoE 模型需要在不同的专家之间路由数据,如果互联延迟高、带宽不够,那就算单个芯片算力再强,整个系统也跑不起来。

而且他们的互联还支持拓扑灵活:任何芯片都可以分组来处理一个任务,就算某个芯片出问题了,也能自动切换,不影响整个系统的运行,这对于大规模部署来说,可靠性提升了不少。

05

软件生态,新芯片的 “生死关”
对于新的 AI 芯片来说,硬件做得再好,软件跟不上也是白搭 —— 毕竟 NVIDIA 的 CUDA 生态太强大了,开发者都习惯了,谁也不想重新写一遍代码。
TensorDyne 显然也意识到了这一点,他们做了一整套软件方案:
  1. 支持 Hugging Face 的模型 hub,开发者可以直接用现成的模型;
  2. 直接支持 PyTorch 和 Triton 模型的编译,不用大幅改代码;
  3. 自己的 Python SDK tensordyne.nn ,方便开发者适配;

而且他们还拉了 HPE 和 Juniper 来合作,做 chassis 和基础设施,这样客户买的时候,不是买一个 startup 的小芯片,而是成熟的厂商做的整套系统,可信度就高多了。

06

什么时候能用上?
目前 Napier 已经完成了流片(也就是芯片已经设计完,送去台积电生产了),预计 2027 年 Q1 开始 beta 测试,Q2 就能正式出货。

07

写在最后:这会是 AI 推理的新方向吗?
其实现在 AI 芯片赛道已经非常拥挤了,NVIDIA、AMD、Intel,还有一堆 startups,大家都在卷。但 TensorDyne 的这个 Napier,确实有点不一样 —— 它不是说 “我做了个比 NVIDIA 快一点的芯片”,而是从最底层的数学运算入手,试图重构整个 AI 推理的效率逻辑。
如果他们说的这些都能兑现的话 —— 单机架搞定 2 万亿模型,5 倍的 SRAM,风冷就能部署,那确实会给 AI 推理市场带来很大的冲击,毕竟现在大模型推理的成本太高了,谁能把成本降下来,谁就能拿到市场。
不过,现在这还只是发布,毕竟要到 2027 年才出货。到那时候,NVIDIA 的下一代产品也出来了,其他厂商也在进步,而且这个对数数学的方案,到底在实际的模型里精度够不够?软件能不能真的做到无缝迁移?实际部署的时候能不能达到宣传的效率?这些都还要打个问号。
但不管怎么说,这确实是一个非常有意思的方向,当大家都在堆算力的时候,有人回头去改最基础的数学,说不定真的能走出一条新的路。我们也可以期待一下,2027 年的时候,这个 “对数 AI 芯片”,到底能不能兑现它的承诺。

首次披露SpaceX AI1技术细节

2026-06-10

黄金坑位如何产出新的黄金

2026-06-12

算力“迷你派”爆火!英伟达都在布局,5大优势解锁全场景数字新可能

2026-06-02

重磅!多用户绿电直连放开,算力企业优先享红利

2026-05-29

停机少了,损失却涨了?AI 正在把数据中心韧性逼到极限

2026-05-28