乐于分享
好东西不私藏

AMD把AI开发这件事又往前推了一步,软件优化跑出3.3倍,这次重点不在芯片?

AMD把AI开发这件事又往前推了一步,软件优化跑出3.3倍,这次重点不在芯片?

上个月AMD在旧金山办Advancing AI 2026,台上当然有第六代 EPYC Venice、Instinct MI400 系列、面向机器人的锐龙 AI 嵌入式 X100 这些硬件。但如果你真在做大模型部署,最该盯住的,反而不是那几块新芯片,而是一个软件名字:ROCm.ai。

我的判断先摆这儿:AMD现在要打的,已经不是“能不能跑”,而是“能不能让开发者少折腾”。这两个问题看着只差几个字,商业意义完全不是一回事。

前几年很多人提到 ROCm,印象还停在“生态不全、上手费劲、迁移麻烦”。按这次素材里的公开信息看,这个阶段基本过去了。PyTorch 已经把 ROCm 支持合入主分支,不用再单独维护特殊分支;vLLM、SGLang、llama.cpp、Ollama、ONNX Runtime、ComfyUI 这些常见推理工具,也都做了原生适配。翻译成人话:底座这件事,AMD已经补得差不多了。

所以 ROCm.ai 的意义,不是重新造一个 ROCm,而是在 ROCm 之上再铺一层“开发体验层”。素材里给出的结构很清楚,一共三块:ROCm CLI、AMD Skills、Hyperloom。

ROCm CLI 管的是安装、验证、部署和管理,重点在“少手动”。它会做硬件感知,自动识别环境完成配置,还支持 Air-gapped,也就是安全隔离部署。对企业来说,这种价值不是炫技,而是把一台台机器的环境差异,尽量压成同一种结果。你少踩一次依赖冲突,往往比多跑 5% 性能更值钱。

AMD Skills 则是把官方知识库直接喂给 Claude、Cursor、Codex、Gemini 这类 AI 编程助手。这个思路其实很现实。今天大家不是不会问 AI,而是问出来的答案经常“像那么回事,但落不了地”。尤其涉及驱动、框架、版本、算子和调优链路时,通用助手很容易给你一个正确方向,却给不出能执行的 AMD 平台方案。AMD Skills 解决的,就是最后这一步。

更关键的在后面。

Hyperloom 才是这次最有攻击性的部分。按官方定义,它是一套开源的智能优化系统,能把性能分析、找瓶颈、改计算内核、验证结果这条链路自动跑完。素材里用了一个很有分量的对比:过去资深工程师可能要花几周做的深度调优,Hyperloom 几个小时就能做完。

这是什么概念?不是帮你省一两个命令,而是在把“少数专家的经验”变成“更多团队都能调用的能力”。AI 基础设施竞争到今天,真正稀缺的从来不只是卡,还有懂卡、会调卡、知道哪里该改 kernel 的人。谁把这部分知识产品化,谁就更接近大规模落地。

性能数据也值得单独拎出来看。素材里的口径是:AMD 性能实验室在 8 卡 Instinct MI355X 平台上,对比 ROCm 7.0 和带 ROCm.ai 优化的新版本 ROCm。结果是,GLM-5、Kimi-K2.5、DeepSeek-R1-0528 三个模型推理平均提升 3.3 倍;DeepSeek-V2-Lite、DeepSeek-V3-16B、Qwen3-30B-A3B 三个模型训练平均提升 2.4 倍。

这里要诚实说一句,这属于厂商实验室口径,不等于你明天把环境装上就一定稳拿同样倍数。模型、并行策略、内存管理、调度方式、具体 workload 都会影响结果。但即便打个折,这组数字传递出的信号已经很清楚:AMD想证明,现有硬件的上限,还远没被吃干榨净。

所以这件事真正影响谁?不是只影响买不买 AMD GPU 的大厂,也影响一批正在算账的团队:我已经有硬件了,要不要重构流程;我已经能跑了,要不要继续养一队专门调优的人;我想换平台,迁移成本到底是不是过去想的那么高。

说到底,ROCm 靠开源把“第二选择”立住了,ROCm.ai 要做的,则是把“第二选择”变成“不麻烦的选择”。硬件决定你能不能上桌,软件决定你愿不愿意长期坐在这张桌子上。

按官方计划,ROCm.ai 会在 2026 年 8 月正式开放使用。等它真正交到开发者手里,大家看的不会是口号,而是三件很具体的事:装得快不快、答得准不准、性能涨幅能不能复现。

温馨提示:文中信息整理自公开报道与发布会资料,像 2026 年 8 月开放时间、模型测试成绩和功能范围,后续都可能有调整,具体还请以 AMD 官方最终口径为准。