2、可解释性基础：为什么需要模型可解释性、全局解释与局部解释的区别、LIME与SHAP的对比

2.1 为什么需要模型可解释性

随着机器学习模型从线性回归、决策树向梯度提升树、深度神经网络演进，模型的预测能力大幅提升，但内部决策逻辑却越来越不透明。这种“黑箱”特性在金融风控、医疗诊断、信贷审批等高风险场景中带来了严峻挑战。

模型可解释性的价值体现在以下四个维度：

2.2 全局解释与局部解释的区别

可解释性按作用范围可分为两个层次：全局解释回答“模型整体如何工作”，局部解释回答“模型为什么对某个样本做出特定预测”。两者互补，缺一不可。

2.3 LIME与SHAP的对比

LIME（Local Interpretable Model-agnostic Explanations）和 SHAP（SHapley Additive exPlanations）是目前最主流的两种局部可解释性方法。它们都致力于解释单个预测，但在理论基础、计算方式和输出形式上存在显著差异。

2.3.1 核心原理对比

2.3.2 工作流程对比

以下流程图直观展示两种方法在解释单个样本时的核心差异：

2.3.3 选型建议

2.3.4 代码示例：LIME 与 SHAP 的基本使用

# LIME 示例
import lime
import lime.lime_tabular

explainer_lime = lime.lime_tabular.LimeTabularExplainer(
    training_data=X_train.values,
    feature_names=feature_names,
    class_names=['Negative', 'Positive'],
    mode='classification'
)

exp = explainer_lime.explain_instance(
    X_test.iloc[0].values,
    model.predict_proba,
    num_features=5
)
exp.show_in_notebook(show_table=True)

# SHAP 示例
import shap

explainer_shap = shap.TreeExplainer(model)
shap_values = explainer_shap.shap_values(X_test)

# 单个样本解释
shap.initjs()
shap.force_plot(
    explainer_shap.expected_value,
    shap_values[0],
    X_test.iloc[0],
    feature_names=feature_names
)