1. Champion 对照实验概述
在信用评分卡的全生命周期管理中,Champion 对照实验是验证模型迭代效果、控制上线风险的核心方法论。它通过将新开发的评分卡(Challenger)与当前在用的评分卡(Champion)进行并行对比,量化评估新模型在区分能力、稳定性、业务收益等方面的真实提升,从而决定是否替换旧模型。
1.1 什么是 Champion 模型
Champion 模型(冠军模型)是当前在生产环境中正式上线、正在对信贷业务进行实时决策的信用评分卡。它已经通过了历史验证,是业务运行的基准线。
- 状态:生产环境、实时运行
- 作用:作为对照基准,衡量新模型的增量价值
- 特点:经过完整的开发、验证、上线流程,业务部门已熟悉其评分分布与决策逻辑
1.2 什么是 Challenger 模型
Challenger 模型(挑战者模型)是风控团队基于新数据、新算法或新策略开发完成的候选评分卡。它尚未进入生产环境,需要通过对照实验证明其优于或至少不差于 Champion 模型。
- 状态:开发/测试环境、离线或影子模式
- 作用:挑战现有基准,推动模型迭代
- 特点:可能使用了更丰富的特征、更先进的算法(如 XGBoost、神经网络),或针对特定客群进行了优化
关键原则:Challenger 模型必须与 Champion 模型在相同的样本空间和相同的时间窗口下进行对比,否则对照结果无效。
1.3 Champion vs Challenger 核心差异
| 对比维度 | Champion 模型 | Challenger 模型 |
|---|---|---|
| 部署状态 | 生产环境,实时决策 | 开发/测试环境,影子评分 |
| 数据时效 | 当前业务数据 | 历史回测数据 + 近期影子数据 |
| 评估指标 | KS / AUC / 稳定性 PSI | KS / AUC / PSI + 增量提升 |
| 业务影响 | 直接影响审批与额度 | 无业务影响(影子模式) |
| 替换风险 | 基准线,无替换风险 | 需证明显著优于 Champion |
1.4 对照实验在信用评分卡生命周期中的核心价值
对照实验不是一次性的技术验证,而是贯穿评分卡开发 → 验证 → 上线 → 监控 → 迭代全生命周期的风险管理机制。其核心价值体现在以下四个方面:
- 量化模型增量收益:通过 Champion vs Challenger 的并行对比,精确计算新模型在区分坏客户、提升通过率、降低坏账率等方面的边际贡献,避免凭感觉决策。
- 控制上线风险:新模型可能存在未知的分布偏移、过拟合或业务逻辑漏洞。对照实验在影子模式下运行,即使 Challenger 表现异常,也不会影响实际审批结果。
- 支撑监管合规:监管机构(如巴塞尔委员会、央行)要求模型变更必须有充分的验证记录。Champion 对照实验提供了可追溯、可复现的量化证据链。
- 驱动持续优化:对照实验的结果不仅用于“是否替换模型”,还能揭示 Champion 模型的薄弱环节(如特定客群区分力下降),为下一轮 Challenger 开发指明方向。
实践建议:建议在每次模型迭代时,至少保留最近两个版本的 Champion 模型作为对照基线,形成“Champion-1”、“Champion-2”的多级对照体系,更全面地评估模型退化与提升趋势。
1.5 Champion 对照实验核心流程
下图展示了 Champion 对照实验在信用评分卡生命周期中的标准流程与核心节点:
1.6 对照实验的三种运行模式
根据业务风险容忍度和技术成熟度,Champion 对照实验通常采用以下三种模式之一:
| 模式 | 描述 | 适用场景 | 风险等级 |
|---|---|---|---|
| 离线回测 | 使用历史数据同时跑 Champion 和 Challenger 评分 | 模型开发初期、快速验证 | 低 |
| 影子模式 | 生产环境实时计算 Champion 评分,同时计算 Challenger 评分但不用于决策 | 模型验证期、上线前最终确认 | 中 |
| A/B 测试 | 将流量随机分桶,一部分用 Champion 决策,另一部分用 Challenger 决策 | 业务影响评估、收益量化 | 高 |
注意:A/B 测试模式会直接影响真实客户的审批结果,必须经过严格的伦理审查和风险预案,建议仅在 Challenger 模型经过影子模式充分验证后再启用。
1.7 对照实验的评估指标体系
在 Champion 对照实验中,通常从以下三个维度对模型进行综合评估:
- 区分能力:KS 统计量、AUC、Gini 系数——衡量模型将好客户与坏客户分开的能力
- 稳定性:PSI(群体稳定性指标)、特征分布偏移——衡量模型在不同时间窗口下评分分布的稳定性
- 业务收益:通过率变化、坏账率变化、预期损失(EL)变化——衡量模型对业务利润的实际影响
只有当 Challenger 模型在至少两个维度上显著优于 Champion,且没有任何维度出现显著退化时,才建议启动模型替换流程。