3. 可解释性的分类体系：全局解释 vs 局部解释、内在可解释模型 vs 事后解释方法、模型特定 vs 模型无关方法、解释的忠实度与稳定性
可解释性并非单一维度。为了系统性地理解和构建可解释AI系统，学术界与工业界形成了一套成熟的分类体系。本章将从四个核心维度拆解这一体系，帮助你在实际项目中选择最合适的解释策略。
3.1 全局解释 vs 局部解释
根据解释的粒度与范围，可解释性首先分为全局解释与局部解释。前者回答“模型整体如何决策”，后者回答“为什么对这个样本做出这个预测”。
| 维度 | 全局解释 (Global) | 局部解释 (Local) |
|---|---|---|
| 目标 | 理解模型整体的行为逻辑、特征重要性排序、决策边界 | 解释单个预测结果背后的归因或决策路径 |
| 典型输出 | 决策树、特征重要性柱状图、部分依赖图 (PDP) | LIME 权重、SHAP 值、注意力热力图、反事实解释 |
| 适用场景 | 模型审计、合规审查、领域知识验证 | 单笔贷款拒批解释、医疗影像诊断归因、用户申诉处理 |
| 计算开销 | 通常较高，需遍历大量样本 | 相对较低，仅需在单个样本附近采样 |
实践提示： 在金融风控场景中，监管机构通常要求全局解释（如“模型是否歧视特定群体”），而业务人员更关注局部解释（如“为什么拒绝张三的贷款申请”）。两者互补，缺一不可。
3.2 内在可解释模型 vs 事后解释方法
根据解释与模型训练过程的关系，可划分为内在可解释模型与事后解释方法。前者在建模时即具备可解释结构，后者则对已训练好的黑箱模型进行逆向分析。
- 内在可解释模型 (Intrinsically Interpretable Models)：模型结构本身透明，如线性回归、决策树、广义加性模型 (GAM)、基于规则的模型。用户可以直接通过权重、树结构或规则集理解决策逻辑。
- 事后解释方法 (Post-hoc Methods)：模型训练完成后，通过外部工具生成解释。适用于深度神经网络、梯度提升树、随机森林等复杂模型。典型方法包括特征归因（SHAP、LIME）、概念激活向量 (TCAV)、注意力可视化等。
| 对比维度 | 内在可解释模型 | 事后解释方法 |
|---|---|---|
| 模型复杂度 | 通常较低，表达能力有限 | 可应用于任意复杂模型 |
| 解释准确性 | 解释即模型本身，完全忠实 | 解释是近似，可能存在偏差 |
| 部署灵活性 | 受限于模型家族，无法使用SOTA模型 | 可配合任意预训练模型使用 |
| 典型代表 | 线性回归、决策树、逻辑回归、GAM | SHAP、LIME、Grad-CAM、Integrated Gradients |
选型建议： 如果业务场景对解释的忠实度要求极高（如医疗诊断、司法判决），优先考虑内在可解释模型。如果模型精度是首要目标，则使用事后解释方法作为“解释层”附加在黑箱模型之上。
3.3 模型特定 vs 模型无关方法
根据解释方法是否依赖模型内部结构，可划分为模型特定方法与模型无关方法。这一维度决定了工具的通用性与解释深度。
- 模型特定方法 (Model-specific)：利用模型内部参数、梯度、注意力权重等结构信息生成解释。解释精度高，但无法跨模型复用。例如：决策树规则提取、CNN 的 Grad-CAM、Transformer 的注意力头可视化。
- 模型无关方法 (Model-agnostic)：仅将模型视为黑箱，通过输入扰动或样本采样来推断决策边界。通用性强，适用于任何分类器或回归器。例如：LIME、SHAP（部分实现）、部分依赖图、置换特征重要性。
3.4 解释的忠实度与稳定性
解释的质量并非主观感受，而是可以通过量化指标评估的。其中忠实度 (Fidelity) 与 稳定性 (Stability) 是最核心的两个评价维度。
忠实度 (Fidelity)
忠实度衡量解释对模型真实决策逻辑的近似程度。高忠实度的解释意味着：如果按照解释指出的重要特征修改输入，模型的预测结果会发生与解释一致的变化。
- 局部忠实度：解释在单个样本邻域内的近似误差。常用指标：
infidelity（输入扰动后解释与模型输出变化的一致性）。 - 全局忠实度：解释能否反映模型在整个数据分布上的行为。例如：全局特征重要性排序与模型实际依赖程度的一致性。
稳定性 (Stability)
稳定性（也称可重复性）衡量对相似输入样本，解释结果是否一致。不稳定的解释会降低用户信任，甚至引发合规风险。
- 局部稳定性：对原始样本的微小扰动，解释不应剧烈变化。常用指标：
max-sensitivity（解释对输入扰动的最大敏感度）。 - 全局稳定性：在不同训练数据子集上训练的同结构模型，其解释应保持相似。
| 维度 | 忠实度 | 稳定性 |
|---|---|---|
| 核心问题 | 解释是否真实反映了模型的决策逻辑？ | 对相似输入，解释是否一致？ |
| 典型度量 | Infidelity、Comprehensiveness、Sufficiency | Max-Sensitivity、Avg-Sensitivity、解释相似度 |
| 常见陷阱 | 事后解释可能遗漏模型依赖的交互特征 | LIME 在采样随机性下可能产生不一致解释 |
| 提升方法 | 使用更精确的近似方法（如 Kernel SHAP） | 固定随机种子、增加采样次数、使用平滑正则 |
⚠️ 重要提醒： 忠实度与稳定性之间存在权衡。过于追求稳定性（如强制解释平滑）可能降低忠实度；反之，完全忠实于模型局部行为的解释可能对噪声敏感。实际应用中，建议在验证集上同时监控两个指标，寻找 Pareto 最优解。
3.5 分类体系总结
将上述四个维度整合，可以得到一个完整的可解释性分类矩阵。在实际项目中，你可以根据以下流程快速定位所需解释方法：
- 确定解释范围：需要全局理解还是局部归因？
- 评估模型类型：是否可以使用内在可解释模型？还是必须使用事后方法？
- 选择方法家族：能否访问模型内部结构（梯度/权重）？还是只能黑箱调用？
- 验证解释质量：在验证集上计算忠实度与稳定性指标，确保解释可靠。
实战案例： 某银行使用 XGBoost 构建信用评分模型。由于监管要求，需要提供每笔拒批的局部解释。团队选择 SHAP（模型无关、事后、局部）生成特征归因，并在 1000 个测试样本上计算平均 infidelity 为 0.12，max-sensitivity 为 0.08，满足合规要求。同时，使用全局 SHAP 特征重要性向监管机构展示模型整体行为，完成全局解释需求。