可解释AI模型阈值调整讲义 - 第1节
1.1 什么是可解释AI（XAI）？
可解释人工智能（XAI）是一套旨在让AI模型的内部逻辑、决策过程与输出结果对人类而言可理解、可追溯的方法与技术体系。它回答的核心问题是：“模型为什么做出这个预测？” 以及 “在什么条件下预测会改变？”
关键定义： XAI 不是单一算法，而是贯穿模型开发、验证、部署与审计全生命周期的透明度保障机制。它要求模型不仅输出准确结果，还能提供决策依据、特征贡献度与边界条件。
XAI 的三个核心维度
| 维度 | 说明 | 典型问题 |
|---|---|---|
| 透明度 | 模型结构、参数与训练过程可被审查 | 模型使用了哪些特征？权重如何分配？ |
| 可解释性 | 单个预测的因果归因清晰 | 为什么这笔贷款被拒绝？哪个特征影响最大？ |
| 可审计性 | 决策边界与阈值可被验证与调整 | 阈值移动后，哪些样本会改变分类？ |
1.2 为什么需要可解释AI？
在医疗诊断、金融风控、自动驾驶等高风险领域，模型的黑箱特性会带来严重的信任与合规风险。XAI 的价值体现在以下四个层面：
- 信任建立： 用户与监管机构只有理解模型行为，才会接受其决策。
- 偏差检测： 通过解释发现模型是否依赖敏感属性（如性别、种族）做出不公平判断。
- 调试与改进： 当模型出现系统性错误时，解释信息能定位特征工程或数据标注的问题。
- 法规合规： GDPR、EU AI Act 等法规要求算法决策必须提供有意义的解释。
实践提示： 阈值调整是连接模型性能与可解释性的桥梁。一个高准确率但阈值不透明的模型，在业务落地时往往比一个略低准确率但阈值可解释的模型更难获得信任。
1.3 阈值调整在模型决策边界中的核心作用
分类模型的输出通常是概率值（如 0.72），而最终决策需要将概率映射为离散类别（如“正类”/“负类”）。这个映射过程由决策阈值控制。阈值调整直接决定了模型决策边界的位置与形状，是 XAI 中最具操作性的干预手段之一。
阈值如何影响决策边界？
以二分类为例，默认阈值通常设为 0.5。当阈值移动时，决策边界在特征空间中发生平移或变形，导致分类结果改变。这种改变可以通过以下三个关键指标量化：
| 指标 | 定义 | 阈值调高（如 0.7） | 阈值调低（如 0.3） |
|---|---|---|---|
| 精确率 | 预测为正类中实际为正类的比例 | 上升（更保守） | 下降（更激进） |
| 召回率 | 实际为正类中被正确预测的比例 | 下降（漏报增多） | 上升（误报增多） |
| F1 分数 | 精确率与召回率的调和平均 | 先升后降 | 先升后降 |
常见误区： 阈值调整不是万能工具。如果模型本身特征空间严重重叠（即正负样本不可分），单纯移动阈值无法从根本上改善决策质量。此时需要先通过特征工程或模型选择优化基础决策边界。
1.4 阈值调整与可解释性的关系框架
下图展示了阈值调整在 XAI 体系中的位置：它既是模型性能优化的工具，也是解释生成与审计的输入条件。
1.5 本课程的学习路径
本讲义将按照以下逻辑展开，帮助您系统掌握阈值调整的可解释性方法：
- 基础篇： 概率校准、ROC曲线与阈值选择的基本原理。
- 方法篇： 基于成本、业务约束与公平性约束的阈值调整技术。
- 解释篇： 如何为阈值调整后的决策生成局部与全局解释。
- 实践篇： 真实案例（信用评分、医疗筛查）中的阈值调整与解释报告生成。
学习目标： 完成本章后，您应能清晰阐述XAI的定义、阈值调整在决策边界中的杠杆作用，以及为什么可解释的阈值比单纯的准确率指标更具业务价值。