3、模型可解释性基础：可解释性的定义、全局解释与局部解释、内在可解释性与事后可解释性

3.1 可解释性的定义与核心价值

在信用评分模型中，可解释性是指模型对其决策过程与输出结果提供人类能够理解之说明的能力。对于拒贷决策而言，可解释性不仅是监管合规要求（如《个人信用信息基础数据库管理暂行办法》及巴塞尔协议III），更是建立客户信任、优化风控策略的关键。

可解释性并非二元属性，而是一个光谱：从完全黑箱到完全透明，不同利益相关方（监管者、业务人员、数据科学家、客户）对解释深度的需求各不相同。

3.2 全局解释与局部解释

根据解释范围的不同，可解释性分为全局解释与局部解释两个维度。两者互补，共同构成完整的模型理解框架。

3.2.1 全局解释（Global Explanation）

全局解释试图理解模型的整体行为逻辑——模型在全部样本空间内如何做出决策。它回答的是“模型一般如何工作”的问题。

• 特征重要性排序：哪些变量对模型预测贡献最大？（如收入、负债比、信用历史长度）
• 部分依赖图（PDP）：目标变量随某个特征变化的平均趋势。
• 全局代理模型：用可解释模型（如决策树）近似黑箱模型的整体行为。
• 应用场景：模型审计、合规审查、风控策略制定。

3.2.2 局部解释（Local Explanation）

局部解释聚焦于单个样本的决策原因。在拒贷场景中，局部解释直接回答“为什么拒绝这位客户”。

• LIME：在预测点附近拟合局部线性模型，解释单个预测。
• SHAP：基于博弈论Shapley值，量化每个特征对单个预测的边际贡献。
• 局部特征贡献：展示每个特征将预测值从基线推向最终值的幅度。
• 应用场景：拒贷原因告知、客户申诉处理、人工复核。

3.3 内在可解释性与事后可解释性

根据解释时机与模型结构的关系，可解释性分为内在可解释性与事后可解释性。这一分类决定了模型选型与解释方案的设计路径。

3.3.1 内在可解释性（Intrinsic Interpretability）

内在可解释性指模型本身的结构天然具备可理解性，无需额外解释工具。这类模型通常结构简单、决策路径透明。

• 代表模型：线性回归、逻辑回归、决策树、规则列表、广义加性模型（GAM）。
• 优势：决策过程完全透明，系数或规则可直接解读。
• 局限：表达能力有限，难以捕捉复杂非线性关系与高阶交互。
• 信用评分应用：传统评分卡模型（逻辑回归+WOE变换）是典型的内在可解释模型。

3.3.2 事后可解释性（Post-hoc Interpretability）

事后可解释性针对黑箱模型（如XGBoost、神经网络、随机森林），在模型训练完成后使用外部工具解释其行为。

• 代表方法：SHAP、LIME、PDP、ICE、特征重要性、代理模型。
• 优势：不限制模型复杂度，可保留高精度。
• 局限：解释是近似值，可能存在不稳定性；不同方法可能给出矛盾结论。
• 信用评分应用：在集成模型或深度学习模型中，使用SHAP生成拒贷原因。

3.4 四种可解释性维度的综合对比

在实际信用评分项目中，四种可解释性维度并非互斥，而是构成一个二维矩阵：横轴为解释范围（全局 vs 局部），纵轴为解释时机（内在 vs 事后）。理解这一矩阵有助于选择最合适的解释方案。

3.5 可解释性在拒贷场景中的实际意义

在信用评分模型的拒贷决策中，可解释性直接转化为以下具体能力：

1. 合规拒贷原因生成：根据《商业银行信用卡业务监督管理办法》要求，银行需向被拒客户提供明确原因。可解释性技术使这一过程自动化、标准化。
2. 模型偏差检测：通过全局解释分析模型是否对特定人群（如低收入群体、特定地域）存在系统性偏见。
3. 人工复核支持：局部解释帮助风控审核员快速定位关键拒贷因素，提升复核效率。
4. 策略优化反馈：通过分析拒贷样本的共性特征，反哺风控策略调整与模型迭代。