什么是AI的可解释性？

可解释 AI（Explainable AI，简称 XAI）是让 AI 系统能为其决策提供清晰、可理解解释的能力。按照欧盟数据保护监督局（EDPS）和美国 NIST 的定义，它要回答一个看似简单的问题：为什么 AI 做出这个判断？

为什么它这么重要？因为今天的大模型和深度神经网络是 "黑盒"—— 预测很准，但没人知道它为什么这么判。就像一个 99% 准确率的肿瘤检测 AI，把恶性判成良性时，医生和开发者都查不出原因。在高风险领域，这种黑盒是不可接受的：

- 医疗：AI 误诊时，医生必须知道原因；

- 金融：贷款被拒，必须向客户解释理由；

- 自动驾驶：事故责任如何认定；

- 监管合规：欧盟 AI 法案要求高风险 AI 必须可解释。

目前主要有两类方法：

1. 内在可解释模型：模型本身就透明，如线性回归、决策树 —— 看系数就知道怎么回事；

2. 事后解释技术：对黑盒模型做事后解析，如 LIME、SHAP、显著性图 —— 事后告诉人类模型为什么这么判。

典型应用包括：特征重要性分析（哪些因素对结果影响最大）、显著性图（看 AI 看图片时关注哪里）、局部解释（解释某一个具体预测为什么这样）和全局解释（理解模型整体怎么决策）。

一句话总结：AI 越聪明、越复杂，黑盒越深 —— 可解释性就是给 AI 开的 "听证会"，让它的决策不仅要 "准"，还要 "说得清"。