
AI 芯片市场百花齐放,英伟达、华为昇腾、寒武纪、沐曦、天数智芯等厂商各有优势。但每家芯片厂商都维护着封闭的私有软件栈,开发者切换一款芯片,往往需要重写算子、编译与分布式代码,迁移成本极高,多芯片混合训练与推理难以互通,国产异构算力规模化落地阻力重重,是FlagOS 要解决的核心问题。
FlagOS 是什么?
众智 FlagOS 是由北京智源人工智能研究院牵头,联合清华、北大、中科院计算所,以及 80+ 芯片企业、云厂商、算法软件公司和科研院所共同创立的开源社区 + 统一 AI 系统软件栈。
一套开源统一底层软件,实现「一次开发、跨芯迁移」,是 FlagOS的核心定位。目标是打通「上层 AI 模型 — 中间系统软件 — 底层各类 AI 芯片」三层链路,抹平不同硬件架构差异。
截至 2026 年 3 月,FlagOS 2.0 已兼容 18 家厂商、32 款 AI 芯片,覆盖英伟达、华为昇腾、寒武纪、沐曦、天数智芯、平头哥等主流算力,场景从大模型推理拓展至具身智能与科学计算。
分层解构FlagOS在Gitee上开源的23个项目
FlagOS 社区已在 Gitee 开源 23 个核心项目,覆盖算子、编译、训推、通信、推理引擎、评测迁移、具身智能等环节。
算子与编译层
以 FlagGems和 FlagTree为核心,配合底层 LLVM/MLIR 基础设施,实现算子代码一次编写、多芯片生成机器码。
训推与通信层
FlagScale 统一训练、推理、强化学习流水线,一套配置即可完成多芯片混合部署;FlagCX 自动探测硬件拓扑,打通跨芯片分布式通信,解决多卡异构集群的通信瓶颈。
推理引擎与插件生态
围绕 vLLM、TransformerEngine、Megatron-LM 等主流框架提供 FlagOS 插件化分支,让开源大模型训推工具原生支持多芯片调度,无需开发者侵入式修改。
评测、迁移与辅助工具
FlagPerf、FlagRelease、KernelGen 及 KernelGenBench 等工具,共同构建从性能度量到模型迁移的完整闭环。
具身智能与场景拓展
FlagOS-Robo 面向机器人训练推理一体化,支持大脑模型与小脑模型协同;FlagOS-Skills 提供智能体专用技能开发库;triton-cpu 等拓展将 Triton 生态延伸至 CPU 平台,进一步拓宽应用边界。
这 23 个项目统一托管在 Gitee 上,互为依赖、版本协同,共同构成覆盖 “算子开发 → 编译优化 → 分布式训练 → 推理部署 → 跨芯迁移” 的全链路开源底座。
为什么选择 FlagOS ?
开源开放
所有核心组件基于 Apache 2.0 开源协议,任何开发者都可以自由使用、修改和贡献,不存在单一厂商绑定。
全产业链众智协同
芯片厂商、云服务商、算法团队、高校科研机构共同共建,打通软硬件上下游闭环。
一次开发,全芯片通用
统一软件层屏蔽硬件架构差异,算法工程师只写一套模型/算子代码,即可在 GPU、DSA、RISC-V、ARM 等各类 AI 加速芯片上高效运行。
适用场景
AI 算法工程师:一套代码完成多芯片模型训练与推理,无需针对昇腾、寒武纪、英伟达分别适配。
AI 芯片厂商:快速补齐软件栈能力,无需从零开发算子、编译器与分布式框架。
云服务商:统一算力调度底层,实现混合异构算力集群统一运维。
科研院校:基于统一评测基准,低成本开展多芯片大模型、科学计算与机器人研究。
智能体/机器人开发者:一站式完成机器人感知、决策、控制全栈部署。
FlagOS在Gitee上的核心开源项目,打造了「模型-系统-芯片」三层贯通的开放技术生态。访问主页:https://gitee.com/flagos-ai,即可浏览全部 23 个开源项目,Fork、Star、提交 PR,与 Gitee 1400万开发者共同参与开源共建。
夜雨聆风