AI时代的开源基础软件,正在发生什么?——CCF中国开源大会分论坛回顾

Triton软件专家杨开昕介绍，Triton Ascend把昇腾上低效的离散访存线性化为“偏移、大小、步长”结构化表达转成DMA搬运，用CostModel自动决定SIMT/SIMD路径；通过AutoTune自动寻优，静态与动态双流水让Cube与Vector并行，并提供昇腾亲和扩展接口与图优化，通过layout优化提升访存效率。

Triton软件专家 杨开昕

AscendNPU IR架构师程琛则从编译器视角给出Tile级编程落到昇腾硬件的路径：AscendNPU IR基于MLIR构建HFusion（架构无关优化）与HIVM（昇腾相关优化）两层抽象，通过AutoBlockify消除核间同步、CV流水与1:2并行提升Cube/Vector利用率，让算子的“性能黑盒”变成可预测、可组合的编译流水线。

AscendNPU IR架构师 程琛

MindSpore技术专家常哲睿介绍了MindSpore HyperParallel分布式加速组件，其设计理念是让开发者用接近单卡编程的方式驾驭千卡集群，把“网络长什么样”和“系统怎么落地”解耦，通过声明式能力将优化注入回去。

核心是三层抽象——DTensor（分布式张量）统一建模全局张量在各设备上的切分策略；DeviceMesh（设备拓扑矩阵）描述集群设备的虚拟多维排列；Placement（放置策略）定义张量维度如何映射到设备矩阵上。切分范式从SPMD（单程序多数据）演进到“集群+多核”的MPMD（多程序多数据），覆盖HSDP、TP、CP、EP、PP等多种并行策略，流水并行支持Gpipe、1F1B、VPP等调度方式。内存优化采用重计算、换存、卸载三级策略；AutoParallel模块通过预跑自动搜索并推荐最优并行策略，降低大规模分布式训练的调优门槛。

MindSpore技术专家 常哲睿

UB Service Core内存技术专家刘勇指出，推理中KV Cache是内存大户，资源呈“显存小、DRAM中、SSD大”的金字塔。

方案把超节点存储统一编织成加速网：MemFabric做内存池化与统一编址，跨节点读写退化为一次内存拷贝；BoostIO通过NDS让KV Cache从盘直通NPU内存；MemCache在其上做多级缓存，兼容vLLM、SGLang。

UB Service Core内存技术专家 刘勇

MindCluster Maintainer李睿介绍，MindCluster是面向昇腾硬件、基于K8s生态的一体化集群管理底座。其“超节点亲和性调度算法”感知超节点/框/抽屉拓扑，避免任务被拆到多个超节点而退化为走慢网络，把任务收敛在灵衢高速互联网络内，性能提升40%以上。高可用上，训练故障进程不退出的在线Step重计算恢复，推理侧提供“缩P保D”等的分层恢复策略。

MindCluster Maintainer 李睿

华为HPC技术专家朱延超认为，超算与智算殊途同归。针对新一代鲲鹏众核处理器，传统fork-join模型语义不足、600多核并行度难以线性扩展。为此推出KUPL，对标弥补传统OpenMP语义局限，提供众核并行（计算图+队列）、异步数据搬运（SDMA）、矩阵编程（矩阵外积指令集）三类API，并作为运行时对接存量框架，让已有应用不改写即可受益。DFT、AlphaFold3、纯CPU大模型部署三个实践均验证了这套软件栈。

华为HPC技术专家 朱延超