

在半导体行业,软件生态往往比硬件设计更能决定一款芯片的生死。英伟达凭借CUDA构建的护城河,让无数AI芯片初创公司望而却步——重新开发一套兼容CUDA的生态,传统模式下往往需要数十名工程师耗费数月甚至数年时间。但最近,一家名为Modal的创业公司用一场惊人的实验改写了这个剧本:他们借助AI编程智能体,仅用10小时就为专注于AI推理的芯片公司D-Matrix重建了一套类CUDA软件栈。
这场看似不可能的技术冲刺,不仅展示了AI编程工具在复杂系统开发中的潜力,更可能成为打破算力生态垄断的关键转折点。


从“不可能”到“10小时”:一场精心设计的压力测试
D-Matrix的芯片架构与传统GPU截然不同。这家成立于2019年的硅谷公司,专注于为生成式AI推理设计数字原位乘法累加(DIMC)架构,其芯片在处理Transformer模型时能效比优势显著。但和所有非英伟达芯片一样,D-Matrix面临一个致命问题:如何让开发者无缝迁移基于CUDA编写的代码?
Modal团队选择了一个极具挑战性的切入点:移植CUDA的并行前缀和(prefix sum)算法——这是并行计算中基础且复杂的核心操作,广泛用于深度学习框架的底层优化。传统方式下,移植这类算法需要工程师深入理解D-Matrix的硬件指令集、内存层次结构,再手动重写适配代码,周期通常以周为单位。
但这次,Modal启用了自研的AI编程智能体系统。这套系统并非简单的代码补全工具,而是由多个专用智能体组成的协作网络:有的负责解析CUDA原版代码的逻辑结构,有的专攻硬件架构映射,有的则承担测试用例生成与调试工作。整个过程像一条自动化流水线——智能体首先“阅读”CUDA官方文档和源代码,提取算法逻辑;随后结合D-Matrix的技术手册,将并行计算模式映射到其独特的处理单元阵列;最后自动生成单元测试,验证功能正确性。
令人惊讶的是,从启动到完成首个可运行版本,整个流程仅耗时10小时。更关键的是,生成的代码通过了D-Matrix硬件上的全部功能测试,性能接近手动优化的基准实现。


AI编程智能体的“工程思维”革命
这场实验的意义远不止于速度的提升。传统AI编程助手(如早期的GitHub Copilot)更多聚焦于代码片段生成,而Modal展示的智能体系统具备系统工程能力——它能理解跨文件的依赖关系,处理硬件特定的约束条件,甚至在遇到编译错误时自主回溯修正。
在移植过程中,智能体展现了三个突破性功能:首先是上下文感知。它不仅能理解CUDA的API语义,还能结合D-Matrix芯片的存储层级(如分布式SRAM的组织方式),自动调整数据访问模式以避免内存墙问题。其次是迭代调试能力。当初步生成的代码在模拟器上报错时,智能体通过分析错误日志,定位到是指令调度顺序导致的资源冲突,并自主重构了相关代码段。最后是文档协同生成。在完成代码的同时,智能体还输出了适配D-Matrix架构的API文档和优化指南,这通常是人工开发中极易被忽视的环节。
这种能力的本质,是将软件工程中“理解-设计-实现-验证”的完整闭环,压缩到了智能体的自主工作流程中。正如Modal首席技术官在事后复盘中所说:“我们不是在教AI写代码,而是在训练它像资深系统工程师一样思考。”

打破CUDA生态垄断的新变量
长期以来,CUDA生态是英伟达最坚固的壁垒。对于AI芯片公司而言,兼容CUDA意味着要逆向工程其API行为,还要应对版本迭代带来的兼容性问题。D-Matrix此前曾尝试过基于Triton编译器构建软件栈,但面对复杂的企业级AI工作负载,仍需大量手工优化。而Modal的实验证明,AI编程智能体可以大幅降低这类移植成本。
更深远的影响在于异构计算的普及。随着Chiplet技术、存算一体架构等新范式兴起,未来计算硬件将更加碎片化。如果每个新架构都需要从头构建软件生态,创新成本将高到难以承受。AI编程智能体提供了一种可能性:通过自动化适配,让上层AI框架(如PyTorch、TensorFlow)能够快速支持新型硬件,而不必等待厂商缓慢的SDK更新。
当然,目前的成果仍有局限。10小时完成的是特定算法的移植,而非完整CUDA生态的复刻。但在AI编程智能体快速进化的背景下,这种“点突破”正在演变为“面覆盖”。未来18个月内,我们可能会看到针对RISC-V AI扩展、神经拟态芯片等非传统架构的自动化软件栈生成工具出现。


人机协作的新边界
Modal与D-Matrix的合作,本质上是一次关于“软件开发生产力边界”的探索。它并不意味着人类工程师将被取代,而是预示着一种新的协作模式:AI处理重复性强、规则明确的适配工作,人类则专注于架构创新和复杂问题解决。
对于创业公司而言,这种工具链的革命尤为关键。过去,小团队难以在软件生态上与巨头抗衡;现在,AI编程智能体正在抹平这种资源差距。正如D-Matrix的工程副总裁所言:“我们终于可以把精力从‘让代码跑起来’转移到‘让代码跑得更快’上了。”
在AI重塑一切的时代,或许最大的颠覆不在于某个具体算法,而在于这些能够创造工具的工具——它们正在以超乎想象的速度,重新定义技术创新的可能性。而这10小时的奇迹,可能只是一个开始。






夜雨聆风