1. 课程导论：模型可解释性的定义、为什么需要可解释性、SQL 在其中的独特价值

1.1 什么是模型可解释性？

模型可解释性（Model Interpretability）是指人类能够理解机器学习模型为何做出特定预测或决策的能力。它回答三个核心问题：“模型看到了什么？”、“模型如何推理？”、“哪些特征驱动了最终结果？”。

根据解释的粒度，可解释性通常分为两类：

1.2 为什么需要可解释性？

在工业级数据科学项目中，模型可解释性已从“加分项”变为“必选项”。以下是驱动这一转变的五大核心动因：

1. 合规与监管要求：金融、医疗、保险等行业法规（如 GDPR、巴塞尔协议）要求对自动化决策提供可审计的解释。
2. 模型调试与诊断：当模型在验证集上表现异常时，可解释性帮助定位是特征泄漏、数据漂移还是过拟合。
3. 建立业务信任：业务方（风控、营销、运营）只有理解模型逻辑，才愿意将模型部署到生产环境。
4. 公平性与偏见检测：通过解释发现模型是否对敏感属性（性别、种族、年龄）存在系统性歧视。
5. 特征工程优化：解释结果直接反馈哪些特征冗余、哪些特征交互未被利用，指导下一轮特征迭代。

1.3 SQL 在模型可解释性中的独特价值

大多数数据科学团队的数据栈以 SQL 为中心——数据存储在数据仓库（Snowflake、BigQuery、Redshift）或数据湖中，特征工程、数据质量检查、模型评估均依赖 SQL 查询。将可解释性计算直接嵌入 SQL 层，具有以下不可替代的优势：

本课程将展示如何用 SQL 实现以下核心可解释性技术：

• 特征重要性计算：基于置换重要性或增益聚合的 SQL 实现
• SHAP 值近似：通过条件期望分解在 SQL 中计算局部贡献
• 部分依赖图（PDP）：使用 GROUP BY 和窗口函数生成特征边际效应曲线
• 反事实解释：利用 SQL 的集合操作搜索最小修改样本
• 模型监控：持续计算预测漂移和特征分布偏移

1.4 SQL 可解释性架构总览

下图展示了 SQL 在模型可解释性全流程中的位置与数据流向：

1.5 一个直观的 SQL 可解释性示例

假设我们有一个训练好的贷款违约预测模型，特征包括 income、credit_score、loan_amount、employment_years。以下 SQL 查询计算全局特征重要性（基于置换重要性思想）：

WITH baseline_accuracy AS (
  -- 计算原始模型在验证集上的准确率
  SELECT AVG(CASE WHEN prediction = actual_label THEN 1.0 ELSE 0.0 END) AS acc
  FROM model_predictions
),
permuted_income AS (
  -- 打乱 income 列，重新评估准确率
  SELECT AVG(CASE WHEN prediction = actual_label THEN 1.0 ELSE 0.0 END) AS acc_perm
  FROM (
    SELECT p.prediction, p.actual_label
    FROM model_predictions p
    CROSS JOIN (SELECT income FROM model_predictions ORDER BY RANDOM()) perm
    ON p.row_id = perm.row_id
  ) shuffled
)
SELECT
  'income' AS feature,
  b.acc - p.acc_perm AS importance
FROM baseline_accuracy b, permuted_income p;

这个查询直接在数据仓库中完成特征重要性计算，无需将数据导出到 Python 环境。后续章节将深入讲解每种解释技术的 SQL 实现细节。