4. 可解释性基础：全局解释与局部解释、模型内在可解释性与事后可解释性
在构建可解释的评分接口时，首先需要理解两个核心维度：解释的范围（全局 vs 局部）和解释的时机（内在 vs 事后）。本章将系统梳理这些基础概念，为后续实现可解释 API 打下理论基础。
4.1 全局解释与局部解释
根据解释的目标受众和粒度，可解释性分为两个层次：
| 维度 | 全局解释 (Global Explanation) | 局部解释 (Local Explanation) |
|---|---|---|
| 目标 | 理解模型整体的行为逻辑 | 理解单个预测结果的原因 |
| 受众 | 模型开发者、合规审计、业务负责人 | 终端用户、客服、风控审核员 |
| 典型问题 | "哪些特征对信用评分影响最大？" | "为什么这个用户的贷款申请被拒绝？" |
| 输出形式 | 特征重要性排序、部分依赖图、决策树结构 | 特征贡献分解、反事实解释、LIME/SHAP 值 |
| 应用场景 | 模型监控、公平性审计、特征工程优化 | 用户申诉处理、拒绝原因反馈、个性化推荐 |
实践要点：在评分接口设计中，局部解释是面向用户的核心能力。例如，当用户收到 650 分的信用评分时，接口应能返回"收入稳定性"贡献了 +30 分、"近期查询次数"贡献了 -15 分等明细。而全局解释更多用于后台模型治理和监管报告。
4.2 模型内在可解释性
内在可解释性（Intrinsic Interpretability）指模型本身的结构天然具有可解释性，无需额外工具。这类模型通常结构简单、参数少，适合对透明度要求极高的场景。
4.2.1 线性模型
线性回归、逻辑回归是最经典的内在可解释模型。其解释性来源于权重系数的直接含义：
# 逻辑回归评分示例
score = β₀ + β₁·income + β₂·age + β₃·debt_ratio
# 特征贡献分解
income_contribution = β₁ · income_value # 收入对评分的贡献
age_contribution = β₂ · age_value # 年龄对评分的贡献
debt_contribution = β₃ · debt_ratio_value # 负债率对评分的贡献
- 优点：权重符号（正/负）直接指示特征方向，权重大小反映特征强度。
- 局限：无法捕捉特征间的非线性关系和交互效应，在复杂场景下精度不足。
- 适用场景：监管严格的金融评分卡、基础信用评估。
4.2.2 决策树
决策树通过树状决策路径提供全局和局部解释。每个叶子节点对应一条完整的 if-then 规则：
# 决策树局部解释示例
用户路径：收入 > 5000 → 负债率 < 0.3 → 信用历史 > 2年 → 评分 = 720
# 规则可读性
IF (收入 > 5000) AND (负债率 < 0.3) AND (信用历史 > 2年)
THEN 评分 = 720 (高信用)
- 优点：规则直观，可追溯完整决策路径，适合业务人员理解。
- 局限：树深度过大时容易过拟合，且路径组合爆炸导致解释困难。
- 适用场景：规则引擎、风控策略、可审计的评分系统。
内在可解释性对比：
- 线性模型：解释粒度细（每个特征有独立权重），但无法表达非线性。
- 决策树：解释粒度粗（整条路径），但能表达复杂规则。
- 共同优势：无需额外解释工具，预测即解释，延迟低，适合实时评分接口。
4.3 事后可解释性
事后可解释性（Post-hoc Interpretability）针对黑箱模型（如梯度提升树、深度神经网络），通过外部工具近似解释模型行为。这类方法不改变模型本身，而是对已训练好的模型进行"逆向分析"。
4.3.1 LIME（局部可解释模型）
LIME（Local Interpretable Model-agnostic Explanations）的核心思想：在待解释样本的局部邻域内，训练一个简单的可解释模型（如线性模型）来近似黑箱模型的决策边界。
# LIME 解释流程（伪代码）
1. 选取待解释样本 x₀
2. 在 x₀ 附近随机采样生成扰动样本 {z₁, z₂, ..., zₙ}
3. 用黑箱模型 f 预测每个扰动样本的标签 f(zᵢ)
4. 根据样本与 x₀ 的距离赋予权重 wᵢ（越近权重越大）
5. 训练加权线性模型 g 拟合 f(zᵢ)
6. 输出 g 的权重作为局部特征贡献
# 输出示例
{
"解释样本": "用户ID=12345",
"预测评分": 650,
"特征贡献": {
"收入": 0.35, # 正向贡献
"负债率": -0.28, # 负向贡献
"信用历史": 0.22,
"近期查询": -0.15
}
}
- 优点：模型无关（适用于任何黑箱模型），局部解释精度高。
- 局限：解释不稳定（不同扰动种子结果可能不同），邻域定义敏感。
- 适用场景：需要快速、轻量级局部解释的评分接口。
4.3.2 SHAP（Shapley 加法解释）
SHAP 基于博弈论中的Shapley 值，将每个特征视为"玩家"，计算其对预测结果的边际贡献。SHAP 值满足三个公理：局部准确性、缺失性和一致性。
# SHAP 值计算示意
# 对于特征 i，其 SHAP 值 = 所有特征子集 S 中，加入 i 后预测变化的加权平均
ϕᵢ = Σ_{S ⊆ N\{i}} [ |S|! (|N|-|S|-1)! / |N|! ] × [ f(S ∪ {i}) - f(S) ]
# 输出示例（评分接口）
{
"base_value": 600, # 基线评分（所有样本平均）
"shap_values": {
"收入": 45, # 收入使评分比基线高 45 分
"负债率": -30, # 负债率使评分比基线低 30 分
"信用历史": 25,
"近期查询": -10
},
"final_score": 630 # 600 + 45 - 30 + 25 - 10 = 630
}
- 优点：理论基础坚实，解释具有一致性和公平性，全局和局部统一。
- 局限：计算复杂度高（精确计算为 NP-hard），需使用近似算法（如 TreeSHAP、KernelSHAP）。
- 适用场景：对解释质量要求高的金融、医疗评分系统。
性能考量：在实时评分接口中，LIME 和 SHAP 的计算延迟不可忽视。LIME 每次解释需数百次模型推理（约 10-50ms），SHAP 的 KernelSHAP 更慢（约 100-500ms）。生产环境建议使用预计算近似或模型蒸馏来加速，或仅在异步/离线场景提供详细解释。
4.4 内在 vs 事后：如何选择？
| 对比维度 | 内在可解释性 | 事后可解释性 |
|---|---|---|
| 模型类型 | 线性模型、决策树、广义加性模型 | 任意黑箱模型（XGBoost、神经网络等） |
| 解释准确性 | 精确（模型结构即解释） | 近似（存在误差和不确定性） |
| 计算开销 | 几乎为零（预测时同步获得） | 较高（需额外计算，可能增加延迟） |
| 模型精度 | 通常较低（受限于简单结构） | 可选用高精度黑箱模型 |
| 监管接受度 | 高（完全透明、可审计） | 中等（需验证解释可靠性） |
| 推荐场景 | 监管评分卡、规则引擎、风控策略 | 高精度需求 + 补充解释的混合系统 |
评分接口设计建议：
- 核心评分引擎：优先使用内在可解释模型（如逻辑回归评分卡），确保基础评分透明可审计。
- 补充解释层：若使用黑箱模型提升精度，在 API 中集成 LIME 或 SHAP 作为可选参数（如
?explain=true），由调用方决定是否需要详细解释。 - 性能优化：对 SHAP 等计算密集型方法，采用预计算近似值或异步计算，避免阻塞实时评分请求。
4.5 本章小结
- 全局解释回答"模型整体如何工作"，局部解释回答"为什么是这个结果"。
- 内在可解释性（线性模型、决策树）结构透明，适合监管场景，但精度受限。
- 事后可解释性（LIME、SHAP）可解释任意黑箱模型，但需权衡计算开销和解释稳定性。
- 在评分接口设计中，推荐内在模型为主 + 事后解释为辅的混合策略，兼顾精度与可解释性。