2. 可解释性基础：LIME、SHAP、Integrated Gradients 原理对比与适用场景

在构建可解释性评分接口之前，必须深入理解三种主流归因方法的数学原理与工程特性。LIME、SHAP 和 Integrated Gradients 分别代表了局部近似、博弈论归因和梯度积分三条技术路线，它们在计算效率、解释稳定性和适用模型类型上存在本质差异。

2.1 LIME：局部可解释模型

LIME（Local Interpretable Model-agnostic Explanations）的核心思想是在预测点附近训练一个可解释的代理模型（如线性回归或决策树），用代理模型的决策边界近似原始黑盒模型的局部行为。

# LIME 核心伪代码
def lime_explain(x, blackbox_model, num_samples=5000):
    # 1. 生成扰动样本
    perturbations = sample_around(x, num_samples)
    # 2. 获取黑盒预测
    predictions = blackbox_model.predict(perturbations)
    # 3. 计算距离权重
    distances = euclidean_distance(perturbations, x)
    weights = exp(-distances^2 / sigma^2)
    # 4. 训练加权线性回归
    g = fit_weighted_linear_regression(perturbations, predictions, weights)
    # 5. 返回线性系数作为特征归因
    return g.coefficients

2.2 SHAP：博弈论驱动的统一归因

SHAP（SHapley Additive exPlanations）基于合作博弈论中的 Shapley 值，将每个特征视为博弈中的“玩家”，特征贡献为所有可能特征组合下的边际贡献期望值。SHAP 满足局部准确性、缺失性和一致性三个公理，是目前理论上最完备的归因方法。

# SHAP 近似计算（KernelSHAP）
def kernel_shap_explain(x, blackbox_model, background_data):
    # 1. 从背景数据中采样参考值
    # 2. 枚举特征子集并计算边际贡献
    # 3. 使用加权线性回归拟合 Shapley 值
    # 4. 返回每个特征的 SHAP 值
    explainer = KernelExplainer(blackbox_model.predict, background_data)
    shap_values = explainer.shap_values(x)
    return shap_values

2.3 Integrated Gradients：梯度积分路径归因

Integrated Gradients 专为深度学习模型设计，通过沿直线路径从基线（如全零向量）到输入样本积分梯度，将预测归因到每个特征。它满足敏感性和实现不变性，是梯度类方法中理论最干净的方案。

# Integrated Gradients 实现
def integrated_gradients(x, baseline, model, steps=50):
    # 1. 在基线和输入之间插值
    scaled_inputs = [baseline + (i/steps) * (x - baseline) for i in range(steps+1)]
    # 2. 计算每个插值点的梯度
    gradients = [compute_gradient(model, inp) for inp in scaled_inputs]
    # 3. 梯形法则积分近似
    avg_gradients = trapezoidal_integrate(gradients)
    # 4. 乘以输入与基线的差值
    ig_values = (x - baseline) * avg_gradients
    return ig_values

2.4 三种方法综合对比

2.5 适用场景选择指南

• LIME 优先场景：
  • 实时评分接口，延迟要求 < 50ms
  • 模型频繁更新，需要快速验证解释效果
  • 非深度学习模型（XGBoost、随机森林、逻辑回归）
  • 解释结果仅用于辅助展示，不要求严格一致性
• SHAP 优先场景：
  • 模型审计与合规要求，需要可重复的严格归因
  • 特征选择与模型调试，需要全局特征重要性排序
  • 树模型场景（TreeSHAP 计算效率高）
  • 离线批量解释，延迟容忍度较高
• Integrated Gradients 优先场景：
  • 深度神经网络（CNN、RNN、Transformer）
  • 图像、文本、语音等非结构化数据
  • 需要满足敏感性和实现不变性公理
  • 与注意力机制或梯度类方法结合使用

2.6 接口设计中的方法选择策略

在实际的可解释性评分接口中，单一方法往往无法满足所有需求。推荐采用分层解释策略：