1. 课程导论：什么是阈值分层技巧？为什么它在可解释AI中至关重要？

1.1 阈值分层技巧的定义

阈值分层技巧（Threshold Stratification Technique）是一种将连续型模型输出（如概率、置信度、回归值）按照多个有序的截断点（阈值）划分为若干离散区间，并在每个区间内独立评估模型行为与预测结果的可解释性分析方法。它本质上是一种“分而治之”的局部可解释策略——通过切割决策空间，将全局复杂的黑箱映射拆解为若干局部可解释的片段。

1.2 为什么在可解释AI中至关重要？

现代机器学习模型（如深度神经网络、梯度提升树）通常输出连续的概率或分数。传统可解释方法（如全局特征重要性、单一SHAP值）往往忽略了一个关键事实：模型在不同决策阈值下的行为可能截然不同。阈值分层技巧解决了以下三个核心痛点：

1.3 阈值分层技巧的直观流程

下图展示了阈值分层技巧在可解释AI中的标准工作流：从原始模型输出到分层解释输出。

1.4 课程目标

完成本课程后，你将具备以下能力：

• 理解阈值分层的数学基础：掌握等宽、等频、基于熵、基于业务规则等阈值划分方法及其适用场景。
• 独立实现分层解释流水线：使用Python（scikit-learn、SHAP、LIME）构建从模型输出到分层归因的完整代码。
• 诊断模型决策偏差：通过分层对比发现特征贡献的非单调性、阈值附近的样本敏感点以及子群体不公平性。
• 生成业务可读的解释报告：将分层结果转化为风控、医疗、推荐系统等领域的可操作规则。

1.5 学习路径概览

课程共30章，按以下四个阶段递进：

1.6 一个直观的对比：为什么不分层会误导？

假设一个信用评分模型输出概率p，全局特征重要性显示“年龄”的SHAP值为+0.12（正向贡献）。但分层后：

# 伪代码示例：分层SHAP对比
import shap

# 全局SHAP（不分层）
global_shap = shap.TreeExplainer(model).shap_values(X)
print(global_shap['age'].mean())  # 输出: 0.12

# 阈值分层后
low_risk = X[X['score'] < 0.3]
mid_risk = X[(X['score'] >= 0.3) & (X['score'] < 0.7)]
high_risk = X[X['score'] >= 0.7]

for name, group in [('低风险', low_risk), ('中风险', mid_risk), ('高风险', high_risk)]:
    shap_val = shap.TreeExplainer(model).shap_values(group)['age'].mean()
    print(f'{name}区间：年龄SHAP = {shap_val:.3f}')
# 输出:
# 低风险区间：年龄SHAP = 0.021
# 中风险区间：年龄SHAP = 0.145
# 高风险区间：年龄SHAP = -0.083  ← 方向翻转！

这个例子清晰地展示了：全局平均掩盖了高风险区间中年龄的负向作用。阈值分层技巧正是为了捕捉这类“局部反转”而设计。

1.7 阈值分层技巧的适用边界

并非所有场景都适合使用阈值分层。以下表格帮助判断：