ARTICLE · 1311996
22小时,AI做出更快CUDA内核:算力融合还剩四道关

【总第558期】
22小时,AI做出更快CUDA内核:算力融合还剩四道关
编者按
一场公开运行的GPU内核实验,让“AI能否越过顶尖工程师的手工调优”再次成为焦点。真正值得关注的,却不是“CUDA即将消失”,而是底层优化正在从个人手艺变成可自动迭代的工程流程。对算力融合而言,代码适配的门槛有望下降,但跨架构移植、全链路协同、生产级验证与统一运营,仍是必须闯过的四道关。
如果一个AI智能体只用不到一天,就在特定任务上做出比成熟开源实现更快的CUDA内核,我们会很容易得出一个结论:GPU底层软件护城河要被填平了。
OpenBMB公开的ForgeKernel Live显示,智能体围绕DeepSeek-V4.1的FlashMLA prefill任务,在B200上持续进行编写、编译、验证、计时和调优;公开日志结束时,最快版本v31达到472μs,相对成绩为1.098×。[1]这个成绩足够有冲击力,但它既不是“CUDA终结”的证明,也不是一句“噱头”可以抹掉的进展。
真正被改写的,是底层性能优化的生产方式;真正需要重估的,是异构算力融合的成本结构。
一、先把争议放下:这场实验究竟证明了什么?
公开页面记录的是一场目标明确、边界清晰的实验:面向一个具体算子、一种模型任务和一款GPU,让智能体不断提出候选实现,再用正确性检查和设备时间决定哪个版本进入“最快阶梯”。页面汇总为42轮、29个版本完成计时、3次失败。[1]
公开日志里的四个关键数字
22h01 公开运行日志结束时间
42轮 持续迭代,而非一次生成
472μs 最快版本v31的设备时间
1.098× 日志所列相对FlashMLA成绩

这张图最有价值的地方,不是终点比参考实现快了多少,而是过程呈现出一条完整的工程链:初版虽然通过正确性检查,却慢至1834μs;随后,智能体围绕寄存器、共享内存、warp分工、数据搬运和流水线等问题持续试验,才逐步逼近并越过参考线。
因此,它不是“一句话生成底层代码”的魔法,而是把性能工程变成了可反馈、可回退、可累积的闭环。每一次编译、测试和测量都在为下一轮决策提供证据。
事实校准:两个流传口径需要修正
其一,公开日志在T+22:01结束,并非22.5小时。其二,项目并非只获得数学公式和硬件参数;它还会运行、计时和性能分析一个封装的参考内核,只是不能读取该参考实现的源代码。[1][2]
此外,公开日志也包含正确性失败、CUDA错误、死锁与连接中断等工程问题。“自动迭代”不等于“无需工程环境保障”。至于网传围观人数,因缺少可靠公开依据,本文不采用。
二、CUDA失去的,是手工调优的“独占性”
讨论“CUDA还是不是护城河”,首先要避免把CUDA缩减为一段内核代码。它背后还有编程模型、编译器、驱动、函数库、调试与性能分析工具,以及长期积累的工程知识。FlashMLA本身也是DeepSeek面向NVIDIA GPU与华为昇腾NPU提供的高性能注意力算子库。[3]
此次公开内核使用CUDA C++,项目所列B200环境也包含CUDA与PyTorch。[2]换句话说,AI不是绕开CUDA另起炉灶,而是在CUDA工具链之内找到更优实现。被削弱的是“只有极少数专家才能持续做好”的独占性,而不是整个软硬件生态。
更广泛的公开结果也值得关注。ForgeKernel主仓库披露,其论文测试覆盖Hopper与Blackwell上的27种算子,在22个专家库对照中匹配或超过18个,并超过三种内核生成系统已经发布的7个内核;不同任务的最高增益与几何平均增益并不相同。[4]这些数字展示了方法的覆盖面,却不能被简化为“所有场景都快同一个比例”。项目论文仍标注为在审[2],结果也需要更多第三方复现与生产负载检验。
所以,护城河没有凭空消失,而是在移动:从“谁会手写某一段代码”,转向“谁能提供更好的硬件、工具链、参考实现、验证环境和硬件知识库”。
三、真正被削平的,是异构算力的“适配税”
所谓算力融合,不是把不同芯片简单放进同一个资源池,而是让任务能够跨主体、跨架构、跨地域被正确执行、合理调度,并获得可预期的性能与服务。
过去,异构迁移最隐性的成本往往不是“程序能不能跑”,而是“跑起来以后,性能能不能接受”。同一种模型换一种芯片,可能遇到算子缺失、精度差异、内存层级变化、框架版本不兼容,以及漫长的性能回退排查。这些反复出现的工作量,可以称为异构算力的“适配税”。
AI内核智能体的意义,就在于把其中一部分高度重复、依赖试错的环节,转化为“目标描述—候选生成—硬件验证—知识沉淀”的自动流程。未来跨架构适配的起点,可能不再是逐行移植旧代码,而是携带清晰的任务契约、测试集和性能约束,在新硬件上重新生成并验证。
这一方向与政策层面的关注点相互呼应。2025年印发的《算力互联互通行动计划》明确提出,构建支持各类新架构芯片的算子库、开发框架,提高应用开发效率,并推动跨主体、跨架构、跨地域算力供需调度。[5]底层自动化由此不只是单点降本工具,也可能成为异构资源走向互用的连接器。
四、障碍仍在,只是从“写不出来”变成“系统跑不好”
如果因此断言算力融合已经没有技术障碍,就把一个内核的胜利误读成了整个系统的胜利。真正的难题正在向四个层面迁移。

第一道关:可生成,不等于可移植
一个B200上的最优实现,不能直接证明它在另一代GPU、另一类加速卡上同样有效。不同硬件的指令、张量核心、内存层级和通信机制不同,最优分工也可能完全不同。ForgeKernel主仓库同样列出了边界:当前覆盖四类算子和两代NVIDIA GPU;参考实现非常重要,只给PyTorch实现和设备时间的消融实验在三个受测算子上均陷入停滞。[4]
这意味着,跨架构自动化仍需要硬件知识、参考基线与高质量反馈。AI可以降低迁移成本,却不能把硬件差异变成不存在。
第二道关:单算子最快,不等于端到端最优
公开成绩衡量的是特定任务的设备时间,而真实业务关心的是首 token 时延、吞吐、并发、显存、能耗和成本。一个内核快了,如果数据准备、通信、框架调度或批处理成为新瓶颈,端到端收益就可能被稀释。
因此,算力融合不能只追求“每个零件都最快”,而要让模型、框架、算子、网络、存储和调度围绕同一个业务目标协同。局部基准是入场券,系统收益才是交付物。
第三道关:通过测试,不等于可以生产
公开日志中的正确性失败、越界风险和性能波动提醒我们:自动生成扩大了搜索空间,也扩大了验证责任。边界输入、极端数值、并发冲突、长时间运行、驱动升级和框架变更,都可能让“曾经正确”变成“现在失效”。
生产环境需要独立测试、可复现基准、版本签名、灰度发布与可回滚机制。未来最重要的基础设施之一,未必是更大的代码生成模型,而是更可信的自动验收系统。
第四道关:能调度,不等于能运营
当算力来自不同主体和地区,统一调用只是第一步。资源如何标识,性能如何度量,服务等级如何约定,费用如何结算,故障如何追责,数据如何合规流动,都会决定融合能否从演示走向市场。
2026年,工业和信息化部进一步部署“1+M+N”国家算力互联互通节点体系,要求区域、行业节点支撑标识注册、互联调度、运行监测与安全保障。[6]此前五部门关于全国一体化算力网的实施意见,也已把统一度量、统一计费、统一交易、统一结算,以及算电协同和安全保障纳入整体框架。[7]这些任务显然不是内核生成器单独能够完成的。
五、下一站:不是“去CUDA”,而是“可验证的自动化”
面对这场变化,企业真正需要建设的,不是一个“会自动写内核”的孤立工具,而是一套让自动生成结果能够进入生产体系的工程能力。
把任务说清楚
用统一契约描述模型结构、输入形状、精度、时延目标、资源上限和数据边界,让不同智能体、不同芯片面对同一个可执行目标,而不是面对一句模糊的“帮我优化”。
把验证做完整
同时考察正确性、设备时间、端到端时延、吞吐、能耗、成本和长稳运行。对关键业务保留人工审核与回滚通道,让“更快”始终服从“可用、可控、可追责”。
把经验留下来
企业长期资产不应只是某一份内核源码,而应包括测试集、性能基线、硬件知识库、失败案例和验收规则。源码会过时,能够持续产生合格源码的体系更有复用价值。
把调度接上去
让优化后的内核进入统一资源目录、监控体系和服务等级协议,再与标识、计量、定价、结算和审计衔接。只有这样,单点性能才会变成用户可购买、平台可运营的服务能力。
未来最稀缺的,不只是“会写某一个内核的人”,而是能让不同芯片持续产出可信性能的人与系统。
所以,如果CUDA不再是单纯依靠人力堆砌的护城河,算力融合还有障碍吗?答案是:有,而且更考验系统工程。AI击穿的是单点技能壁垒,不会自动消除硬件差异、网络时延、数据边界和运营规则。
但变化同样真实:过去每一次跨架构迁移都可能从零开始,现在可以把经验变成知识库,把调优变成闭环,把验证变成标准。竞争的重点也将从“拥有多少会写底层代码的人”,转向“谁能把不同算力持续转化为可验证、可调度、可负担的服务”。
CUDA的墙没有消失,只是不再只由人攀爬。算力融合的下一站,也不是无差别的一张网,而是一张懂得验证、选择与协同的网。
参考文献
[1] OpenBMB. ForgeKernel Live,2026-10-29。https://openbmb.cn/forgekernel/
[2] OpenBMB. ForgeKernel/kernels/README.md(内核、源码隔离与测试环境说明)。https://github.com/OpenBMB/ForgeKernel/blob/main/kernels/README.md
[3] DeepSeek. FlashMLA: Efficient Multi-head Latent Attention Kernels。https://github.com/deepseek-ai/FlashMLA
[4] OpenBMB. ForgeKernel: Self-Evolving Kernels Catching and Surpassing Experts and Agents(项目主仓库,含方法、结果与局限性)。https://github.com/OpenBMB/ForgeKernel
[5] 工业和信息化部.《算力互联互通行动计划》,工信部信管〔2025〕119号,2025-05-21。https://cqca.miit.gov.cn/zwgk/zcwj/wjfb/art/2025/art_32da1a20bf20448aaf24ef91b3fd9054.html
[6] 工业和信息化部办公厅.《关于组织开展国家算力互联互通节点建设工作的通知》,工信厅信管函〔2026〕35号,2026-01-27。https://www.miit.gov.cn/jgsj/xgj/gzdt/art/2026/art_b9a559aefc8d47b0afbd5b173d2ca8e5.html
[7] 国家发展改革委、国家数据局、中央网信办、工业和信息化部、国家能源局.《关于深入实施“东数西算”工程加快构建全国一体化算力网的实施意见》,发改数据〔2023〕1779号,2023-12-25。https://www.gov.cn/zhengce/zhengceku/202401/content_6924596.htm
本期编辑 | Tom的猴毛
01
原创阶梯
第500级台阶:六十年长河,恒守者爆发——室联网的前世今生与算格黎明
第400级台阶的灵魂独白──一个十三年活化石在AI时代对人类命运的重新定义——写在人类被"逆天改命"的前夜
在第300级台阶上的反思与展望:一个可释放数字化学习效能的“互联网÷”时代的正在由室联网元宇宙进行重构...
在第200级台阶上的反思与展望:“虽已登堂,尚未入室”的自省
02
采访报道
学术论文
第15篇:王涛:拓展“室联网”教育新理论,构建“生活即学习”新生态
第13篇:基于室联网的开放大学智慧学习空间生态建设——以福建广播电视大学“5G室联网实验室”的建设与应用为例
第12篇:【前沿】网络学习平台生态指数开放评价模型的设计与实现
第10篇:【MOOC透视】“室联网”被认证为中国行业影响力品牌!
第9篇:北京市海淀区新闻中心 | 重构传统 激活课堂——“室联网”构建无边界的未来教室
第5篇:【对话智慧教育】新维度、新模式、新平台——对话“移动学习”教育部-中国移动联合实验室MOOC研究中心王涛主任
03
原创元前
第-2期:MOOC公众号新年致辞
第-3期:BBC视频带你翻越707页《失控》
第-4期:【前沿】网络学习平台生态指数开放评价模型的设计与实现
第-6期:多元智能理论对我们的教育教学启示
第-9期:《数学分析》教给我们的,只是当年未曾领悟
第-10期:数学、计算机编程、曲面、宇宙、黑洞与舞蹈、灵魂的诗意融合!震撼的交互视觉
第-11期:慕课的颠覆与回归--《慕课:人人可以上大学》推荐序
第-12期:互联网教育的玩法与困境:如何才能让在线教育产品从“互联网+教育”走向“互联网÷教育”?
第-13期:请给我一段老时光……
第-14期:关于对【MOOC为你读诗】《你不懂我,我不怪你》一文回复的致谢!
第-15期:史上最全MOOC平台收集
第-16期:智慧学习的元年
第-17期:中华文明基本脉络
第-18期:关于在线教育和线下教育的六个问题
第-19期:万物通灵:植物互联网
第-20期:爱因斯坦:我不是一名宗教徒,但如果我是的话,我愿成为一名佛教徒
第-21期:宇宙全息论与佛法宇宙全息论的通俗表述
第-22期:拯救还是利用?互联网与人类的七宗罪
第-23期:拯救还是利用?互联网与人类的七宗罪(上篇)
第-24期:时间流互联网之未来(六):智能终端与终端界面的未来畅想
第-25期:时间流互联网之未来(五):Facebook Home、HTC BlinkFeed功能、SO.HO……
第-26期:时间流互联网之未来(四):手机、Google Glass、智能手表、平板、电视……
第-27期:时间流互联网之未来(三):移动OS、HTML5 和超级App
第-28期:时间流互联网之未来(二):桌面将成为一级菜单和第一入口
第-29期:时间流互联网之未来(一):从空间模式转向时间模式
第-30期:......
04
活动案例
91.新界教育——室联网XRoom系列产品发布会在京隆重召开
87.女神节重磅:连线中美四地,万人慕课公益直播在室联网平台完美演绎(含视频回看)
86.室联网“硬核停课不停学”系列活动:轻松教,愉快学,“教室”处处在,“黑板”处处有,世界不遥远——让我们突破空间距离
85.老师们渴望的“云黑板”来啦:室联网慧板!大家都在围观…
84.【百发百评】江汉大学在室联网空间站召开地方高校智慧教学模式改革研讨会
82.室联网空间站助力福建广播电视大学举行建校40周年纪念大会
80.武汉商学院“基于室联网空间站的BOPPPS有效教学设计与演练工作坊”圆满启动啦!
79.收藏创新周!室联网光课堂全程直播表:年度教育盛会,共促“互联网+教育”高质量发展!
78.今晚8点,战疫智慧妈妈万人慕课MOOC大型公益活动准时开播
77.室联网“硬核停课不停学”系列活动:轻松教,愉快学,“教室”处处在,“黑板”处处有,世界不遥远——让我们突破空间距离
76.室联网“心性修养心理疏导”系列大型公益活动:生而何艰,让我们努力愉快地活着!
75.室联网“心性修养心理疏导”系列大型公益活动第一季:云炁——道心德身,健康养生,生活中的“黄帝内经”、“道德经”
74.新时代打造新阵地,新形式传播新思想——中关村智慧党员活动室创新应用记实
73.对外经贸大学校直机关党委科研规划联合党支部在红色历程云学习空间(中关村站)举行“不忘初心,牢记使命,弘扬延安精神”主题党日活动
72.李芳博士 | 自信力基础篇:怯场怎么办?——从《自信力》到《学习力》作者讲书公益直播(第1讲)开课啦!
71.用“金课”给新时代打call(含直播链接) | 在线开放课程建设与应用研讨会暨“慕课开放2.周”启动圆满成功!
70.【迎评促建 鼎力助战】河北民族师范学院本科教学工作合格评估中的新维空间站
69.【迎评促建 鼎力助战】新维空间站助力本科教学工作审核评估中的安庆师范大学
68.【迎评促建 鼎力助战】武汉轻工大学本科教学工作审核评估中的新维空间站
66.cMOOC 第2周精华版 | 北京四中网校黄向伟、好未来张杨:线上线下教学空间融合
65.cMOOC 第4周精华版 | 麦课在线刘义光、独立教师刘泽冰:社会各界教育资源共享(交流点评更精彩!)
64.cMOOC 第6周精华版 | 北师大余胜泉、中国移动李小文:消费驱动的教育供给侧改革
63.cMOOC 第9周精华版(含直播链接) | 科大讯飞王卓、北师大孙洪涛:精准高效的教育管理模式
62.cMOOC 结课精华版(含直播链接) | 互联网+教育:从媒体观走向哲学观
61.复旦大学教发中心副主任、微电子学院蒋玉龙教授 | PowerPoint小插件 翻转教学大智慧(含直播链接)
59.李芳:重构传统,激活课堂——智慧环境下教学新生态构建探索与实践
57.【首创】网络安全培训新模式在【新维空间站】活力上演——共青团湖北省委青少年网络安全宣传周激情开幕
56.为世界教育改革贡献中国智慧+中国方案 | 对分课堂创始人、复旦大学张学新教授高校教师专场直播圆满成功
54.2018高校思政课教学与对分课堂教研实践体系建设研讨会纪实——重构思政教育的新生态!
53.【首创】上海电机学院马院构建新时代“红五星”思政教研体系!
52.张学新教授“对分课堂”工作坊助力河北民族师范学院应用型课程建设
51.快来体验叶丙成团队:巧用游戏化手段,翻转课堂、因材施教
50.【新维教师发展空间站】BOPPPS教学设计走进河北民族师范学院
49.【创新周】回归教育初心,引领发展前沿,不能错过的精彩内容
48.这是一篇更撩人的推送 | 新维移动空间站走进河北民族师范学院教师教学发展中心
47.【新维空间站】两地并会(班)联动助力民族院校教师教学发展联盟第三届学术年会
46.【新维空间站】多专家实时原笔迹点评助力“第二届新型城镇化主题辩论赛”王者之战
45.【干货PPT】逯瑶:引爆你的思维潜能——思维导图工具的应用
44.对分课堂创始人、复旦大学张学新教授:对分课堂融入思政课教学的心理学原理
43.百发百评第3期【无学习、不青年】五四青年节特辑:北京大学郭文革解密教育的技术变革史
42.【百发百评第2期】接轨学生学习与现实世界成就——来自美国的课堂深度辨证、互动的教学与评估方法工作坊开磨第二天!
41.【百发百评第1期】百场智慧教育高端互动实战论坛在新维空间站盛大开启。实战论坛之新年首发:智慧教室的科学建设和有效应用
38.教育进入“海板”时代 | 智慧教室环境与视力影响研讨会在“山竹”喧嚣下别样召开
37.【新维News】对外经济贸易大学深圳研究院与新界教育启动战略合作,基于新维空间站,整合优质资源,共建百发百评,打造智慧教育新生态
36.【新维News】对外经济贸易大学深圳研究院与新界教育启动战略合作,基于新维空间站,整合优质资源,共建百发百评,打造智慧教育新生态
33.【十•一特辑】你写,我全知,我写,你全懂:是你笔成“仙”,还是我“千里眼”?
32.冲破“鸽子笼”,迎来新教育 | 2017第三届“互联网+教育”创新周:新维度 新教室——教育+人工智能发展趋势论坛成功举办
31.课程统整时代已经到来|“创客教育如何引领K12教育新模式研讨会”成功举办
29.热烈庆祝“新维海板 & 新维空间站”落户北京大学教育学院!(含直播链接)
27.【新维速报】北京教科院聚智讲坛:从“新维空间站”观包容传统的未来教育
26.新维空间站 | 为培训赋能,为学习增效,有图有真相,你不来试试?
25.面向智能时代的教育变革网络直播讲座在我校新维教师发展空间站圆满举行
24.首个移动新维空间站走进山西师范大学解答什么是“包容传统的未来教育”
23.【百发百评】百场智慧教育高端互动实战论坛在新维空间站盛大开启。实战论坛之新年首发:智慧教室的科学建设和有效应用(一)
22.【室联网•新维空间站】全国首个教学技能工作坊(ISW)国际认证中心落户武汉轻工大学新维教师发展空间站
21.ISW国际认证中国大陆发展促进论坛暨武汉轻工大学ISW国际认证中心成立大会邀请函
20.【日程与直播】新科技 新思维 新教学 | 立足课堂话“金课” ——武汉轻工大学第二届教学常青论坛
19.德育升级 助力未来教育新生态——武汉轻工大学探索本科教学改革与实践
18.百校联动,万师共享 | 融合智慧教学技术的师德教育工作坊暨课堂革命公开课在武汉轻工大教师发展空间站上演
17.【心一起,新征程】首届“教学常青论坛” | 促进学生主动学习的技术·方法·实践暨武汉轻工大学新维教师发展空间站启动仪式与全球首秀
16.【独家·见微】湖北省首个“新维空间站”在武汉轻工大学启用
15.首届“教学常青论坛” | 促进学生主动学习的技术·方法·实践暨武汉轻工大学新维教师发展空间站启动仪式与全球首秀
14.海淀新闻丨“十三五”规划我们的生活系列报道第一集“促进成果转化,让科技改变生活”:中关村互联网教育创新中心新维学习空间站
13.【会员招募】“新维空间站”1年100场活动等你来加入12.AW《互联网创新实践》课程在京开机,新维学习空间站助力混合学习
11.周华丽:大数据视角下以学生为中心的高校教育教学范式变革
10.科技与教育的火花碰撞:北京联合大学2017年新教师研习营企业游学暨BOPPPS微格实战演练
9.北京联合大学2017年新教师研习营企业游学暨BOPPPS微格教学演练工作坊在中关村新维空间站圆满举行
3.【ND计划】未来教师的一天:听说难以置信的梦,成真了?!
2.科技改变教育,创新引领未来 ——科技教育•创享未来“互联网+教育”创新周闭幕式
......
王涛(微信号:ioxroom)















































































