1. 课程导论：可解释AI（XAI）的定义、在信贷决策中的重要性、监管合规要求

1.1 什么是可解释AI（XAI）？

可解释人工智能（Explainable AI, XAI）是指一套旨在让AI模型的决策过程、行为逻辑与输出结果能够被人类理解、信任和有效管理的方法与技术体系。在信贷决策场景中，XAI不仅回答“模型拒绝了谁的贷款申请”，更要回答“为什么拒绝”以及“哪些特征导致了这一结论”。

XAI在信贷领域主要解决两类问题：

• 全局解释（Global Explanation）：理解模型整体的行为模式，例如“收入水平对违约概率的平均影响权重”。
• 局部解释（Local Explanation）：解释单个申请人的具体决策原因，例如“张三被拒是因为负债率过高且近期查询次数过多”。

1.2 XAI在信贷决策中的重要性

信贷决策是高度敏感且具有重大经济影响的场景。传统“黑箱”模型（如深度神经网络、梯度提升树）虽然预测精度高，但缺乏可解释性，导致以下关键风险：

1.3 监管合规要求

全球主要金融监管机构已明确要求信贷决策模型具备可解释性。以下为三大核心监管框架：

1.3.1 GDPR（通用数据保护条例）—— 解释权

• 第22条（自动化决策）：数据主体有权不受仅基于自动化处理（包括画像）的决策约束，该决策对其产生法律效力或类似重大影响。
• 第13-15条（知情权）：必须向数据主体提供关于决策逻辑的“有意义的信息”，包括模型输入特征、特征权重及决策依据。
• 合规要求：金融机构必须能够提供“为什么批准/拒绝”的具体解释，且解释必须达到“可理解”标准（非技术性语言）。

1.3.2 巴塞尔协议框架 —— 模型可审计性

• 巴塞尔协议III（信用风险标准法/内部评级法）：要求银行使用的风险量化模型必须经过验证，验证过程需包含模型逻辑的透明度和可重复性。
• BCBS 239（风险数据汇总与报告原则）：强调风险数据的可追溯性和审计线索，模型输出必须能够回溯到输入特征和中间计算步骤。
• 合规要求：模型开发文档必须包含特征选择依据、模型结构说明及决策边界分析，监管机构有权要求现场模型审计。

1.3.3 中国监管要求

• 《商业银行互联网贷款管理暂行办法》（2020）：要求银行对贷款审批模型进行定期评估，确保模型结果可解释、可验证。
• 《金融科技发展规划（2022-2025年）》：明确提出“提升算法透明度与可解释性”，防范算法歧视和不当催收。
• 合规要求：信贷模型需通过“算法备案”，备案材料包括模型设计原理、训练数据说明及可解释性评估报告。

1.4 XAI在信贷决策中的实施路径

结合监管要求与业务实践，金融机构实施XAI通常遵循以下四步路径：

1. 需求分析：明确需要解释的模型类型（信用评分卡、反欺诈模型、额度定价模型）及解释受众（监管、客户、内部审计）。
2. 技术选型：根据模型复杂度选择解释方法——线性模型使用系数解释，树模型使用特征重要性+SHAP，深度学习使用LIME或集成梯度。
3. 解释生成：开发自动化解释引擎，为每笔信贷决策生成结构化解释报告（包含特征贡献排序、对比基准、决策边界说明）。
4. 审计与迭代：建立模型解释的持续监控机制，定期验证解释的准确性与一致性，并根据监管反馈优化解释逻辑。