2. 可解释AI基础：XAI的定义、核心原则
在将模型部署到低延迟生产环境之前，必须回答一个关键问题：模型为什么做出这个决策？ 可解释人工智能（XAI）正是解决这一问题的学科。本章将建立XAI的核心知识体系，为后续的评分卡实现与低延迟部署奠定理论基础。
2.1 什么是可解释AI（XAI）
可解释AI（Explainable Artificial Intelligence, XAI）是一套旨在让AI系统的决策过程、行为逻辑和输出结果能够被人类理解的方法与技术集合。它不仅仅是“打开黑箱”，更是建立人机信任的桥梁。
核心定义： XAI 提供可被人类理解的解释，以阐明模型的输入特征如何影响输出结果，以及模型在何种条件下会做出特定决策。
XAI 与传统的“黑箱”模型形成鲜明对比：
| 维度 | 传统黑箱模型 | 可解释AI模型 |
|---|---|---|
| 透明度 | 内部逻辑不可见，仅知输入输出 | 内部机制可审计、可追溯 |
| 信任建立 | 依赖性能指标（如准确率） | 依赖性能 + 解释一致性 |
| 调试难度 | 难以定位错误原因 | 可识别特征贡献与偏差 |
| 合规性 | 难以满足监管审计要求 | 天然支持合规审查 |
2.2 XAI 的三大核心原则
XAI 的实践必须遵循三个相互关联的核心原则：透明度、可理解性 和 公平性。这三者构成了可解释性评估的基准框架。
2.2.1 透明度（Transparency）
透明度关注模型本身的可观测性。一个透明的模型允许开发者或审计者直接检查其内部结构、参数和决策路径。
- 可模拟性： 人类能否在合理时间内模拟模型的完整计算过程？例如，线性回归或小型决策树具备高可模拟性。
- 可分解性： 模型的每个组成部分（输入、参数、计算单元）是否可以被独立解释？
- 算法透明度： 训练算法和优化过程是否公开且可复现？
实践提示： 在低延迟评分场景中，透明度直接影响调试效率。当线上评分出现异常时，透明的模型结构能帮助工程师在毫秒级定位到是哪个特征或权重出了问题。
2.2.2 可理解性（Understandability）
可理解性关注解释的受众适配度。即使模型内部完全透明，如果解释形式过于复杂，对业务人员或监管者而言仍然没有意义。
- 解释的简洁性： 解释应聚焦于最重要的少数特征（例如，Top-3 贡献特征）。
- 解释的忠实性： 解释必须准确反映模型的实际决策逻辑，不能为了简化而失真。
- 解释的对比性： 提供反事实解释（“如果特征X增加10%，评分将如何变化？”）能显著提升可理解性。
2.2.3 公平性（Fairness）
公平性要求模型决策不因与任务无关的敏感属性（如种族、性别、年龄）而产生系统性偏差。XAI 是实现公平性审计的关键工具。
- 偏差检测： 通过特征重要性分析，识别敏感特征是否被模型不当利用。
- 一致性检查： 验证模型对相似个体的预测是否一致，避免因细微特征差异导致评分突变。
- 群体公平性： 评估不同子群体（如不同年龄段）的评分分布是否均衡。
注意： 公平性不是静态指标。随着数据分布变化，模型的公平性可能退化。在生产环境中，需要结合低延迟监控管道持续审计公平性指标。
2.3 XAI 核心原则关系图
下图展示了透明度、可理解性和公平性三者之间的支撑关系，以及它们如何共同构建可信AI系统：
2.4 XAI 方法分类
根据解释的时机和范围，XAI 方法可分为以下两类，它们在低延迟部署中的适用性差异显著：
| 分类 | 典型方法 | 低延迟适用性 | 解释粒度 |
|---|---|---|---|
| 内在可解释（Ante-hoc） | 线性回归、逻辑回归、决策树、广义加性模型（GAM） | ✅ 高（模型本身即解释） | 全局 + 局部 |
| 事后解释（Post-hoc） | LIME、SHAP、特征重要性、部分依赖图 | ⚠️ 中（需额外计算开销） | 局部为主 |
课程聚焦： 本课程后续的评分卡案例将采用内在可解释的广义加性模型（GAM）架构。这种选择天然满足透明度要求，且无需在推理路径中增加额外的解释计算，是实现低延迟与可解释性兼得的关键设计决策。