端侧AI工具链原理(01)：AI编译器可执行资产

模型转换成功，设备却跑不起来。加载失败、算子回退 CPU，或者慢得离谱——这三种情况我都见过。

“转换成功”只证明某段流程过了，不等于模型已经完成从数学语义到目标硬件的全部 Lowering。完整链路是：Framework → ModelFormat → FrontendIR → OptimizedIR → BackendIR → Binary → Runtime。每一层都有不同的正确性边界，分不清就容易把锅甩给工具链 Bug。

AI 编译器不是传统编译器的替代品。它处理 Tensor、Shape 和计算图，后端仍可能调用 LLVM 生成 CPU 代码。多层 IR 的价值，就是每向下一层建立新的可证明事实，不能过早丢掉优化所需信息。

Runtime 也不是简单“运行一下二进制”。它负责设备初始化、Buffer 分配、子图调度和错误恢复。静态编译适合做全局优化，动态调度适合处理真实 Shape 和温度变化。编译器生成候选计划，Runtime 在明确适用域内选择，不在设备现场做无边界搜索。

工具链的失败主要三类：语义变了、算子映射不上、或者全落了却依然慢。交付时别只存一个 .bin 文件，要把各层 IR 和 Timeline 都留好，不然升级后根本不知道差异出在哪。