夜雨聆风学习资料网

ARTICLE · 1290169

国产卡打不过英伟达,输在软件生态

国产卡打不过英伟达,输在软件生态

10月31日北京那场人工智能大会,郑纬民院士一上台就问「国产卡为什么不好用」,一天被多家媒体转着刷屏。

硬件不慢,慢在四层链

院士的判断很直:国产芯片数量和性能都在涨,价格也有优势,可最大短板是软件生态。采购价不等于使用成本,昇腾这些国产卡要分别适配、分别优化,开发维护的投入多到能把硬件价格优势抵消掉。

这话今天才刷屏,是因为之前国产芯片一直拿性能和价格对标英伟达,参数漂亮,上手是另一回事:驱动装三天、算子缺一半。院士这个级别公开承认软件生态是短板,等于替一线工程师把这件事挑明了。

门道在四层链:驱动、固件、运行时、框架要逐层对齐,PyTorch 迁过来得改代码,缺一个 FlashAttention 这类算子就得自己改写绕路。真卡脖子的在显存带宽上。当天趋境科技 CEO 说得明白,国产芯片进生产级的卡点是 HBM,带宽不够,推理再快也喂不饱。所以院士才给那个数:四类国产平台软件优化后,性能到 A100 的 86%~98%,可显存标称 64GB,实际只剩 54~58GB,一省就 OOM。

观点:国产卡拼硬件已经能摸到英伟达,真正的对手是自家适配团队那点人力成本。院士这句话之后,比的是谁家算子库先追上 CUDA,纸面算力反而退居其次。

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料