3. 可解释性方法分类

在模型可解释性的工程落地中，分类框架决定了我们选择何种工具、何时介入、以及解释的粒度与可信度。本章围绕三组核心维度展开：全局与局部回答“解释的范围”，模型无关与模型特定回答“解释的适用边界”，事后与事前回答“解释的时机与设计哲学”。这三组维度并非互斥，而是构成一个三维决策空间。实际项目中，我们往往需要组合使用：例如对一个信贷风控模型，既需要全局层面的特征重要性排序（模型无关、事后），也需要对某笔拒贷样本做局部解释（模型无关、事后），同时若模型本身是线性模型，还可直接利用系数做事前解释。理解分类的本质，是避免“拿着锤子找钉子”式误用解释方法的前提。

上图展示了三组分类维度如何构成一个三维决策空间。在实际项目中，我们通常先明确“解释给谁看”（监管、业务方、数据科学家），再决定“解释的粒度”（全局还是局部），最后选择“方法是否依赖模型内部结构”。下面逐一展开每个维度的核心原理、操作判断、案例与常见误区。

3.1 全局解释与局部解释：范围决定粒度

核心原理

全局解释（Global Interpretation）试图描述模型在整个特征空间上的平均行为，回答“模型整体上如何做决策”。典型输出包括：特征重要性排序、部分依赖图（PDP）、累积局部效应（ALE）、决策树近似等。全局解释适合模型审计、公平性检查、特征工程方向判断。

局部解释（Local Interpretation）聚焦于单个样本或一组相似样本的决策原因，回答“为什么这个特定输入得到了这个输出”。典型方法包括 LIME、SHAP 的单个样本解释、反事实解释、锚点（Anchors）等。局部解释适合处理用户投诉、拒贷申诉、异常样本诊断。

判断方法或操作流程

1. 明确受众与决策场景：监管审计通常需要全局解释；个体用户申诉需要局部解释。
2. 评估特征交互强度：若特征间存在强交互，全局 PDP 可能产生误导，此时应结合局部条件期望（ICE）或 ALE。
3. 选择解释粒度：若业务需要“平均归因”，用全局；若需要“个例归因”，用局部。
4. 验证解释一致性：局部解释的累加（如 SHAP 值求和）应近似等于模型输出与基线之差，否则需检查方法适用性。

案例拆解：信贷风控模型的拒贷解释

某消费金融公司使用 XGBoost 模型做信贷审批，拒绝了一位月收入 1.2 万元、负债率 45%、近期有 3 次征信查询的申请人。业务方需要向监管说明拒贷理由。

• 全局层面：计算 SHAP 特征重要性，发现“近 3 个月征信查询次数”和“负债率”是前两位重要特征。这解释了模型整体上最关注的风险因子。
• 局部层面：对该样本计算 SHAP 值，发现“征信查询次数”贡献了 -0.32 的 log-odds（推高违约概率），而“收入水平”贡献了 +0.18（降低违约概率）。最终决策函数值低于阈值，因此拒贷。
• 操作步骤：先用全局 SHAP 重要性确定重点特征，再用单样本 SHAP 瀑布图定位具体原因，最后生成结构化报告。
• 结果对比：仅用全局解释时，监管认为“模型关注查询次数”过于笼统；补充局部解释后，监管认可了具体数值归因。
• 风险与代价：局部解释对特征值敏感，若输入数据存在微小扰动，SHAP 值可能变化较大。因此需在报告中注明解释的置信区间。

常见误区或总结复盘

• 误区一：用全局特征重要性代替个体解释。特征重要性只说明“平均影响”，不代表每个样本都如此。
• 误区二：局部解释只看一个样本，忽略相似样本群。建议对同一类拒绝样本做聚类后，再计算局部解释的分布。
• 复盘要点：全局解释帮助发现模型偏差（如性别特征重要性过高），局部解释帮助定位具体错误样本。两者结合才能支撑模型迭代。

3.2 模型无关与模型特定：边界决定通用性

核心原理

模型无关方法（Model-Agnostic）将模型视为黑盒，仅通过输入-输出对进行分析。优点是与模型结构解耦，可跨模型对比；缺点是计算开销大，且可能无法捕捉某些内部结构信息。典型方法：PDP、ALE、LIME、SHAP（KernelSHAP）、置换重要性。

模型特定方法（Model-Specific）利用模型内部结构或参数进行解释。例如线性模型的系数、决策树的分裂规则、神经网络的注意力权重或梯度。优点是解释精确、计算高效；缺点是只能用于特定模型家族，跨模型对比困难。

判断方法或操作流程

1. 盘点模型类型：如果是线性模型或树模型，优先考虑模型特定方法（系数、分裂特征）。
2. 评估解释一致性需求：如果需要在多个候选模型间比较解释，必须使用模型无关方法。
3. 计算资源约束：模型无关方法（如 KernelSHAP）在特征维度高时计算极慢，此时可考虑 TreeSHAP（模型特定）或近似方法。
4. 验证解释保真度：模型无关方法生成的解释应能近似模拟原模型在局部区域的输出，否则需调整扰动策略。

案例拆解：跨模型对比选择

某电商平台在“用户复购预测”任务中，需要从 Logistic 回归、随机森林、XGBoost 中选择最终模型。业务方要求解释必须可对比。

• 初始现象：三个模型 AUC 相近（0.82~0.84），但业务方担心不同模型关注的特征不同。
• 关键输入：特征包括浏览时长、加购次数、优惠券使用率、上次购买间隔等 20 个特征。
• 分析判断：由于需要跨模型对比，选择模型无关的置换重要性（Permutation Importance）和 SHAP 特征重要性。
• 实际操作：对三个模型分别计算 SHAP 值，绘制特征重要性对比柱状图。发现 Logistic 回归更依赖“优惠券使用率”，而树模型更依赖“浏览时长”。
• 结果对比：业务方认为“浏览时长”更符合业务直觉，最终选择 XGBoost，并针对“浏览时长”做进一步特征工程。
• 风险与代价：置换重要性在特征高度相关时可能产生偏差，因此同时计算了 SHAP 值交叉验证。

常见误区或总结复盘

• 误区一：认为模型无关方法一定比模型特定方法更可靠。实际上，模型无关方法依赖扰动策略，可能产生不真实的样本。
• 误区二：忽略模型特定方法的优势。线性模型的系数在特征标准化后可直接比较，且具有天然的可解释性。
• 复盘要点：选择方法前先问“我是否需要跨模型对比？”如果不需要，优先用模型特定方法；如果需要，则用模型无关方法，但必须检查扰动分布是否合理。

3.3 事后解释与事前解释：时机决定成本与可信度

核心原理

事后解释（Post-hoc）在模型训练完成后，通过外部工具分析模型行为。优点是灵活，不限制模型结构；缺点是解释可能与模型真实推理过程存在偏差。典型方法：LIME、SHAP、Grad-CAM、反事实解释。

事前解释（Ante-hoc / Intrinsic）在模型设计阶段就嵌入可解释性结构，使模型本身具备透明性。典型方法：线性/逻辑回归、决策树、规则列表、注意力机制、可解释神经网络（如 SENN）。优点是解释与模型推理一致；缺点是可能限制模型表达能力，增加训练复杂度。

判断方法或操作流程

1. 评估业务风险等级：高风险场景（医疗、金融）优先考虑事前解释，确保解释可信。
2. 评估性能预算：如果模型性能要求极高（如推荐系统），可先用复杂模型，再事后解释。
3. 考虑维护成本：事前解释模型通常更简单，便于调试和更新；事后解释需要额外维护解释流水线。
4. 验证解释稳定性：事后解释需检查多次运行结果是否一致；事前解释需检查模型是否真的依赖可解释结构。

案例拆解：医疗影像诊断的权衡

某医疗 AI 公司开发肺炎检测模型，需要向医生解释“为什么判断为阳性”。

• 背景与约束：医生要求解释必须基于病灶区域，不能是“特征重要性”这类抽象概念。同时，模型 AUC 需达到 0.95 以上。
• 初始方案：使用 ResNet-50 作为黑盒模型，事后用 Grad-CAM 生成热力图。但医生反馈热力图有时聚焦于正常组织，解释不稳定。
• 分析判断：改用事前解释方案——在 ResNet 的最后一层卷积后加入一个可解释的注意力模块，强制模型关注可解释的解剖结构。
• 实际操作：训练时加入注意力正则化损失，使注意力图与医生标注的病灶区域对齐。模型输出同时包含分类结果和注意力图。
• 结果对比：AUC 从 0.96 略降至 0.94，但医生对解释的信任度大幅提升。后续还发现，注意力图帮助医生发现了 3 例模型误判但注意力区域异常的样本。
• 风险与代价：事前解释增加了训练复杂度，且注意力模块可能过拟合标注区域。需要定期评估注意力图与真实病灶的一致性。

常见误区或总结复盘

• 误区一：认为“事后解释”可以完全弥补黑盒模型的不可信。实际上，事后解释只是近似，无法保证忠实。
• 误区二：认为“事前解释”一定牺牲性能。现代可解释模型（如注意力机制、概念瓶颈模型）在多数任务上性能接近黑盒。
• 复盘要点：事前解释适合“解释是硬性要求”的场景；事后解释适合“性能优先、解释辅助”的场景。最佳实践是：先尝试事前解释，若性能不达标，再切换到黑盒+事后解释，并记录解释的不确定性。

3.4 三维组合决策：从分类到工程落地

理解三个维度后，关键是将它们组合成可执行的决策路径。下表总结了常见业务场景下的推荐组合：

在实际工程中，建议建立“解释方法注册表”，记录每种方法适用的模型类型、计算复杂度、稳定性指标和已验证的业务场景。这样当新模型上线时，可以快速匹配预置的解释方案，避免每次从零开始探索。