4. 坏样本的分布分析:类别不平衡、长尾分布、时间漂移、特征分布对比
坏样本的分布形态直接影响模型训练的有效性与最终收益。本章从四个核心维度展开分析:类别不平衡、长尾分布、时间漂移与特征分布对比。每个维度都对应特定的归因方法与处理策略。
4.1 类别不平衡:少数类样本的识别困境
在风控场景中,坏样本(如欺诈、逾期)通常远少于好样本。当坏样本占比低于 5% 时,模型容易偏向多数类,导致坏样本召回率极低。
| 不平衡程度 | 坏样本占比 | 典型影响 | 推荐处理方式 |
|---|---|---|---|
| 轻度 | 5% – 15% | 模型轻微偏向多数类 | 调整损失函数权重 |
| 中度 | 1% – 5% | 坏样本召回率显著下降 | 过采样(SMOTE)或欠采样 |
| 重度 | < 1% | 模型几乎无法学习坏样本模式 | 异常检测 + 集成学习 |
实操提示:不要仅依赖全局准确率评估模型。在重度不平衡场景下,应使用 Precision-Recall 曲线 和 F1-score 作为主要评估指标。
4.2 长尾分布:尾部样本的稀疏性挑战
坏样本往往集中在特征空间的尾部区域。例如,交易金额极高或极低的样本,其坏账率可能远高于中间区间。长尾分布导致模型在尾部区域缺乏训练数据,泛化能力差。
关键归因:长尾分布下的坏样本通常具有 高价值但高稀疏性 的特征。模型在尾部区域的预测方差大,容易产生极端错误。
处理长尾分布的常用策略:
- 分箱与离散化:将连续特征按分位数分箱,降低尾部稀疏性。
- 对数变换:对偏态分布的特征做 log 或 Box-Cox 变换,压缩尾部。
- 样本加权:根据特征密度对尾部样本赋予更高权重。
4.3 时间漂移:样本分布随时间的结构性变化
风控模型面临最严峻的挑战之一是时间漂移。坏样本的分布会随着宏观经济、政策调整、欺诈手法演变而发生变化。如果训练集与测试集的时间窗口差异过大,模型性能会急剧下降。
时间漂移的三种常见类型:
- 概念漂移:坏样本的定义或模式发生变化(例如,新的欺诈手法出现)。
- 数据漂移:特征本身的分布发生变化(例如,用户收入分布因经济周期改变)。
- 样本选择漂移:训练集与测试集的采样方式不同(例如,只选取了特定时间段的样本)。
风险警示:时间漂移是导致模型上线后快速失效的首要原因。建议在模型监控中设置 PSI(群体稳定性指标) 阈值,当 PSI > 0.25 时触发重新训练。
4.4 特征分布对比:坏样本与好样本的差异量化
通过对比坏样本与好样本在关键特征上的分布差异,可以快速定位导致模型失效的原因。常用的对比方法包括:
| 对比方法 | 适用场景 | 输出形式 | 阈值参考 |
|---|---|---|---|
| KS 检验 | 连续特征分布差异 | KS 统计量 + p 值 | KS > 0.1 视为显著差异 |
| PSI | 特征分布随时间变化 | 单一数值指标 | PSI < 0.1 稳定;0.1–0.25 需关注;> 0.25 异常 |
| 分位数对比图 | 可视化尾部差异 | Q-Q 图或分位数箱线图 | 尾部偏离超过 2 个标准差 |
| 特征重要性排序 | 识别对坏样本区分度最高的特征 | SHAP 值或 Gain 值列表 | Top 5 特征贡献度 > 60% |
4.5 综合归因策略:从分布到行动
完成上述四个维度的分析后,需要将结果整合为可执行的归因策略。以下是一个典型的归因决策流程:
- 检测类别不平衡:计算坏样本占比,若 < 5% 则启动重采样或加权策略。
- 识别长尾特征:对连续特征做分位数分析,标记尾部密度低于 1% 的特征。
- 量化时间漂移:按月计算 PSI,标记 PSI > 0.25 的时间段与特征。
- 执行特征对比:对坏样本与好样本做 KS 检验,输出差异显著的特征列表。
- 生成归因报告:将上述结果汇总为结构化报告,标注每个特征的漂移方向与影响程度。
收益评估关联:分布分析的结果直接决定模型优化的优先级。例如,若时间漂移是主要问题,则优先更新训练数据的时间窗口;若长尾分布是瓶颈,则优先做特征变换与样本加权。每项优化都应对应一个可量化的收益指标(如 AUC 提升 0.02 或坏样本召回率提升 5%)。