📚 课程目录第4章可解释性分类

4. 可解释性分类：全局解释 vs 局部解释、内在可解释 vs 事后可解释、模型特定 vs 模型无关

在信贷决策场景中，不同角色（监管、风控、业务、客户）对“解释”的需求维度完全不同。本章从三个正交维度对可解释性进行分类，帮助你在实际项目中快速定位所需的解释方法。

根据解释的覆盖范围，可解释性分为全局解释和局部解释。全局解释回答“模型整体如何决策”，局部解释回答“为什么这笔贷款被拒绝”。

维度	全局解释	局部解释
定义	描述模型整体的行为逻辑、特征重要性排序、决策边界	解释单个样本的预测结果及特征贡献
信贷场景示例	“收入”和“信用历史”是模型最重要的两个特征	该客户因“近3个月逾期次数”过高被拒绝
适用角色	监管机构、模型审计、风控策略制定	信贷员、客户申诉处理、模型调试
典型方法	特征重要性（Permutation）、部分依赖图（PDP）、全局代理模型	LIME、SHAP、反事实解释

实践建议：在信贷模型上线前，监管报送通常要求提供全局解释；而在客户投诉处理中，局部解释是必须的合规能力。

根据解释与模型训练过程的关系，可解释性分为内在可解释和事后可解释。内在可解释指模型本身结构透明；事后可解释指对黑箱模型进行外部解释。

  核心区别：内在可解释是“模型天生透明”，事后可解释是“模型不透明但可以事后分析”。

根据解释方法是否依赖模型内部结构，可解释性分为模型特定和模型无关。模型特定方法只能用于特定算法；模型无关方法可应用于任何模型。

对比项	模型特定	模型无关
依赖程度	需要访问模型内部参数、梯度或结构	仅需输入和输出，不依赖内部结构
典型方法	决策树规则提取、线性模型系数、CNN热力图	SHAP、LIME、PDP、Permutation Importance
信贷优势	解释精确，计算效率高	统一框架，可横向对比不同模型
信贷劣势	换模型需重新开发解释方法	计算成本较高，近似解释可能不精确
适用阶段	模型开发调试、内部审计	模型对比选型、监管报送、客户解释

注意：在信贷场景中，模型无关方法（如SHAP）已成为行业标准，因为监管要求对不同模型使用统一的解释框架。但模型特定方法在调试阶段仍然不可替代。

将三个维度组合，形成完整的可解释性分类矩阵，帮助你在实际项目中快速选择方法：

组合编号	全局/局部	内在/事后	特定/无关	信贷典型应用	推荐方法
1	全局	内在	特定	逻辑回归模型审计	查看回归系数
2	全局	事后	无关	XGBoost模型监管报送	Permutation Importance + PDP
3	局部	内在	特定	决策树单条路径解释	提取决策规则
4	局部	事后	无关	客户拒绝原因解释	SHAP / LIME

根据实际业务需求，按以下步骤选择可解释性方法：

  行业趋势：在信贷领域，局部+事后+模型无关（组合4）是目前最主流的选择，因为：

  • 信贷模型多为XGBoost/LightGBM等黑箱模型（事后）

  • 客户申诉需要逐笔解释（局部）

  • 监管要求统一解释框架（模型无关）