AI自己调硬件:TraceDSE用执行轨迹重构边缘AI部署

发生了什么

TraceDSE构建了一个由LLM驱动的 proposer-critic 迭代闭环：proposer生成AI模型子图到CPU/GPU/NPU等异构处理单元的映射方案及各单元核心数、频率等配置组合；critic则接入程序化轨迹分析工具，解析硬件执行时序、内存带宽占用、计算单元空闲周期等细粒度信号，定位瓶颈并生成可操作的改进建议。该流程在Intel Meteor Lake SoC上评估了4类AI推理负载（含多模型流水线），相比NSGA-II和贝叶斯优化，Pareto前沿超体积分别提升最多35%和68%，且仅需原方法约1/6–1/9的硬件实测轮次。

为什么重要

传统DSE依赖黑箱反馈（如总延迟、总功耗），无法解释性能瓶颈成因，导致搜索盲目、收敛慢、易陷入局部最优。TraceDSE的关键设计在于将执行轨迹——即硬件实际运行时的时空行为记录——转化为LLM可理解、可推理的语义信号。这使LLM不仅能生成方案，更能基于执行反馈进行迭代修正。相比仅用LLM做超参建议或替代仿真器的尝试，TraceDSE探索了让LLM消费硬件执行信号的新路径，其效果仍需在更多平台和负载下验证。

对行业意味着什么

对芯片厂商，TraceDSE凸显了提供可解析执行轨迹接口的潜在价值；对AI框架与编译器团队，该方法提示后端优化器未来可能需要支持接收语义级改进建议；对企业客户，该方法可能降低边缘AI部署门槛，但其实际落地效果和生态依赖程度仍需观察。云服务商若将其封装为服务，其商业影响尚不明确。

趋势与下一步

技术演进正从‘AI跑在硬件上’转向更注重系统行为理解的方向。下一步值得关注执行轨迹采集的轻量化与跨平台兼容性、LLM在硬件语义理解上的泛化能力边界，以及轨迹分析工具链是否形成开放模块化生态。产业层面，‘AI for Systems’可能呈现不同专业化路径，其中面向硬件语义层的优化对领域知识与工程闭环要求较高，其发展节奏仍需持续跟踪。

核心观察

• TraceDSE用执行轨迹替代黑箱指标，使LLM能基于硬件行为信号进行迭代优化，而非仅依赖统计拟合。

• 在Intel Meteor Lake SoC上，该方法在4类AI推理负载中表现出更高的搜索效率与Pareto前沿质量，具体提升幅度已在论文中报告。

• 该方法对芯片平台的轨迹导出能力与AI编译栈的语义响应能力提出了新的适配需求，相关生态建设仍处于早期阶段。