3. 时间切分核心概念
在信贷风控建模中,样本切分方式直接决定了模型评估结果是否可信。很多团队在离线指标上表现优异,上线后却迅速衰减,根源往往不在算法,而在切分方式。本节聚焦时间切分这一核心方法,讲清它是什么、为什么必须用、以及它与随机切分的本质差异。
一、什么是时间切分
时间切分(Time-based Split)是指按照样本发生或观察的时间顺序,将数据集划分为训练集、验证集和测试集,而不是随机打散。典型做法是:用较早时间段的数据训练模型,用较晚时间段的数据评估模型。
在信贷场景中,每条样本通常带有两个关键时间字段:
- 观察点(Observation Date):客户申请贷款、发起借款或进入授信流程的时间。
- 表现期(Performance Window):从观察点开始,用于判断客户是否发生违约的时间窗口,如 6 个月、12 个月。
时间切分通常以观察点为准进行划分。例如:
训练集:2022-01 ~ 2023-06 的申请样本
验证集:2023-07 ~ 2023-12 的申请样本
测试集(OOT):2024-01 ~ 2024-06 的申请样本
其中测试集常被称为 OOT(Out-of-Time)样本,即“时间外样本”。OOT 验证是信贷模型上线前最接近真实部署环境的评估方式。
二、为什么需要时间切分
信贷业务本质上是“用过去预测未来”。模型上线后面对的是未来新申请的客户,而不是历史样本的随机子集。如果训练和测试样本在时间上混杂,评估结果会系统性高估模型能力。具体原因有三点:
- 业务环境随时间变化:宏观利率、监管政策、客群结构、渠道策略、产品定价都会变化,导致申请人群和违约风险分布发生漂移。
- 风险表现具有滞后性:违约不是申请当天发生的,而是在表现期内逐步暴露。随机切分可能把同一时期、同一批客群的样本同时放入训练和测试,造成信息泄漏。
- 模型需要模拟真实上线节奏:真实场景中,模型只能用上线前已积累的数据训练,然后服务未来客户。时间切分正是对这一过程的模拟。
核心结论:时间切分不是为了“让指标更好看”,而是为了让离线评估结果更接近上线后的真实表现。随机切分的高 AUC 往往是一种“时间泄漏幻觉”。
三、时间切分与随机切分的区别
随机切分(Random Split)将全量样本随机划分为训练集和测试集,假设样本独立同分布。时间切分则显式保留时间顺序,假设未来分布可能与历史不同。两者差异可从多个维度对比:
| 对比维度 | 随机切分 | 时间切分 |
|---|---|---|
| 切分依据 | 随机种子,打散样本 | 观察点时间顺序 |
| 核心假设 | 样本独立同分布 | 分布随时间可能漂移 |
| 信息泄漏风险 | 高,同期样本可能跨集 | 低,未来样本不参与训练 |
| 评估结果 | 偏乐观,AUC/KS 虚高 | 更接近上线真实表现 |
| 适用场景 | 数据探索、特征筛选初筛 | 模型验证、上线决策、OOT 评估 |
| 对分布漂移的敏感度 | 不敏感,容易掩盖问题 | 敏感,能暴露衰减 |
需要强调的是,随机切分并非完全不能用。在早期特征探索、快速验证特征与标签的相关性时,随机切分可以作为辅助手段。但一旦进入模型评估和上线决策阶段,必须以时间切分和 OOT 验证为准。
四、方法流程与实战要点
一个规范的时间切分流程通常包含以下步骤:
- 确定观察点与表现期:明确每条样本的观察时间和标签定义窗口,确保标签已完整成熟。
- 按时间排序并划分区间:根据业务节奏和数据量,选择训练、验证、测试的时间边界。
- 检查各时间段样本分布:对比逾期率、客群结构、渠道占比、特征均值,识别明显漂移。
- 训练与调参:在训练集上拟合模型,在验证集上选择超参数和阈值。
- OOT 验证:在时间外测试集上评估 AUC、KS、PSI 等指标,观察衰减幅度。
- 复盘与迭代:若 OOT 指标显著低于验证集,需排查特征稳定性、样本偏差或标签定义问题。
实战建议:训练集与 OOT 集之间建议留出“隔离期”(Gap Period),长度至少覆盖一个表现期。例如表现期为 6 个月,则训练集截止后应空出 6 个月再作为 OOT 起点,避免标签未成熟或样本重叠。
五、常见误区与复盘
- 误区一:随机切分指标好就认为模型好。随机切分下的高 AUC 可能来自同期样本泄漏,上线后往往大幅下降。
- 误区二:只做一次时间切分。单次切分可能受特定时间段异常影响,建议做多窗口滚动验证,观察稳定性。
- 误区三:忽略样本量随时间变化。业务放量或收缩会导致各时间段样本量差异巨大,切分时需兼顾统计显著性和业务代表性。
- 误区四:OOT 集反复使用。OOT 集一旦被多次用于调参,就失去了“时间外”意义,应严格隔离,仅用于最终评估。
复盘提醒:如果 OOT 的 KS 比验证集下降超过 30%,或 PSI 大于 0.25,通常说明模型存在明显的时间不稳定性。此时应优先检查特征在时间上的分布变化,而不是急于更换算法。