📚 课程目录第3章 SHAP原理（上）

3. SHAP原理（上）：博弈论中的Shapley值、SHAP的核心思想、加性特征归因

SHAP（SHapley Additive exPlanations）是目前最主流的模型可解释性方法之一。要理解SHAP，必须从它的数学根基——博弈论中的Shapley值开始。本节将拆解Shapley值的公平分配逻辑，引出SHAP的核心思想，并建立加性特征归因的统一框架。

Shapley值由诺贝尔奖得主Lloyd Shapley于1953年提出，用于解决合作博弈中的收益分配问题。核心问题是：在一个多人合作的任务中，如何根据每个成员对总收益的边际贡献，公平地分配收益？

假设一个机器学习模型使用4个特征（A、B、C、D）进行预测。将特征视为“玩家”，模型预测值视为“总收益”。Shapley值计算每个特征在所有可能的特征组合（子集）中的平均边际贡献。

  关键公式： 特征 i 的 Shapley 值 = 所有包含特征 i 的子集 S 中，加入 i 后模型输出变化的加权平均。

Shapley值满足以下四个公理，确保分配的唯一性和公平性：

直观理解： 想象一个团队完成项目获得奖金。Shapley值不是简单地按工时或职位分配，而是计算每个人在所有可能的“加入顺序”中带来的增量价值，然后取平均。这避免了“先来后到”或“论资排辈”的偏见。

SHAP将Shapley值的公平分配思想引入机器学习模型解释。核心思想是：将每个特征视为“玩家”，模型预测值视为“总收益”，通过计算每个特征的Shapley值，得到该特征对预测结果的贡献。

SHAP定义了一个加性特征归因模型，即模型的预测值可以表示为所有特征贡献的线性加和：

g(z') = φ₀ + Σ(φᵢ * z'ᵢ)

其中：
- g(z') 是解释模型
- φ₀ 是基线值（所有特征缺失时的模型输出，通常为训练集平均预测值）
- φᵢ 是特征 i 的 Shapley 值（贡献）
- z'ᵢ ∈ {0, 1} 表示特征 i 是否存在（1=存在，0=缺失）

重要区别： 原始Shapley值计算需要遍历所有 2^n 个特征子集，计算复杂度为 O(2^n)。对于高维特征（如n=50），这是不可行的。SHAP通过多种近似算法（如KernelSHAP、TreeSHAP）解决了计算效率问题。

SHAP与Shapley值的核心区别在于：

SHAP属于加性特征归因方法（Additive Feature Attribution Methods）。这类方法的核心假设是：模型的预测结果可以分解为每个特征的独立贡献之和。

加性特征归因的统一形式为：

f(x) = φ₀ + Σ(φᵢ * xᵢ)

其中：
- f(x) 是原始模型的预测值
- φ₀ 是基线预测（所有特征缺失时的期望输出）
- φᵢ 是特征 i 的归因值（贡献）
- xᵢ 是特征 i 的取值（或指示变量）

SHAP是唯一同时满足局部准确性、缺失性和一致性三个公理的加性特征归因方法：

  SHAP vs LIME： LIME也是一种加性特征归因方法，但它不满足一致性公理。这意味着当模型发生变化（如重新训练）时，LIME的解释可能不一致。SHAP的一致性保证使其在模型比较和稳定性分析中更可靠。