（加EarthAi微信交流群+商务合作，请备注：姓名-行业-单位）

人工智能天气模型的机制可解释性工具

这篇论文介绍了一个用于AI气象模型的可解释性工具，旨在揭开AI气象预测模型（如GraphCast）作为“黑盒”的神秘面纱。本文的核心在于开发了一个开源的可视化工具，利用机制可解释性（Mechanistic Interpretability） 的概念，帮助研究人员理解AI模型内部是如何处理气象数据的。

代码和数据

1. https://github.com/ktempestuous/latent_space_visualiser_weather_models
2. https://www.ecmwf.int/en/forecasts/datasets/
3. https://github.com/google-deepmind/graphcast

1. 核心背景与动机

• 现状： 基于AI的气象模型（如GraphCast, Aurora等）在预测技能上已经超越了传统的数值天气预报（NWP）。
• 痛点： 尽管AI模型表现优异，但其内部运作机制仍是一个“黑盒”。传统的NWP基于物理方程，逻辑清晰；而AI模型通过海量数据训练权重，人类难以理解其预测背后的物理逻辑。
• 目标： 开发一个工具，通过分析模型内部的潜在空间（Latent Space），识别出哪些神经元或特征组合对应了具体的气象现象（如气旋、湿度锋面等），从而建立信任并可能发现新的科学规律。

2. 工具设计与方法论

该工具基于Python的Streamlit框架构建，专为气象学家和计算机科学家设计，主要包含以下核心功能：

• 支持模型： 目前主要针对图神经网络 GraphCast（small版本，1度分辨率）。
• 分析对象： 聚焦于GraphCast的处理器阶段（Processor Stage），特别是16个处理步骤中每个网格节点的512维潜在特征向量。
• 关键分析技术：
1. 余弦相似度 (Cosine Similarity)： 比较不同地理位置的潜在向量方向，寻找相似的结构。
2. 主成分分析 (PCA)： 将高维数据降维，提取方差最大的主成分，以识别潜在空间中最显著的结构特征。
3. 潜在空间平移器 (Latent Space Translator)： 由于不同处理步骤的基底可能不同，工具提供了一个仿射变换选项，将中间步骤的特征映射到最终步骤的基底上，以便进行跨步骤比较。

3. 案例研究结果

论文通过两个具体的案例研究展示了该工具的有效性，证明了AI模型的潜在空间中确实存在与气象特征对应的方向。

案例一：中纬度天气尺度波动 (Mid-latitude Synoptic-Scale Waves)

• 研究对象： 选取北半球中纬度的低压槽（Trough）。
• 发现：
• 偶极子结构： PCA分析显示，第一主成分呈现出明显的偶极子结构（西侧负激活，东侧正激活）。这种结构与低压槽的位置高度相关。
• 一致性： 这种偶极子模式在不同的时间（如2016年3月和2017年6月）和不同的地理位置（北美、大西洋）都表现出一致性。
• 关键通道： 潜在通道 464 和 360 对这一特征贡献最大。

案例二：比湿 (Specific Humidity)

• 研究对象： 非洲萨赫勒地区（Sahel）的强湿度梯度。
• 发现：
• 地理相关性： PCA提取的第一主成分与实际的比湿分布高度相关，不仅捕捉到了尼日利亚的湿度梯度，还捕捉到了海洋上的气旋状结构（如大西洋的漩涡）。
• 关键通道： 潜在通道 426、172 和 33 对此特征贡献最大。
• 跨特征重叠： 有趣的是，部分通道（如360和464）在湿度和波动两个案例中都出现了，暗示模型可能学习到了两者之间的物理联系，或者是神经元具有多义性。

4. 关键发现总结表

5. 结论与展望

• 工具价值： 该工具成功实现了将AI模型的“黑盒”可视化，允许用户通过交互式界面快速生成假设。
• 未来方向：
• 构建“可解释特征词典”，将特定的潜在方向与具体的气象现象一一对应。
• 扩展支持Transformer架构的模型（如Aurora）。
• 深入研究特征在不同处理步骤中的演化路径（Circuits）。

一句话总结： 这篇论文提供了一个开源的“显微镜”，让我们得以窥探AI气象模型（GraphCast）的大脑内部，发现它确实是通过识别类似“低压槽”和“湿度锋面”这样的物理特征来进行天气预报的。

EarthAi

微信公号：Earth-Ai

商务联系：Earth_Ai