4. 坏样本的分布分析:类别不平衡、长尾分布、时间漂移、特征分布对比

坏样本的分布形态直接影响模型训练的有效性与最终收益。本章从四个核心维度展开分析:类别不平衡、长尾分布、时间漂移与特征分布对比。每个维度都对应特定的归因方法与处理策略。

4.1 类别不平衡:少数类样本的识别困境

在风控场景中,坏样本(如欺诈、逾期)通常远少于好样本。当坏样本占比低于 5% 时,模型容易偏向多数类,导致坏样本召回率极低。

不平衡程度 坏样本占比 典型影响 推荐处理方式
轻度 5% – 15% 模型轻微偏向多数类 调整损失函数权重
中度 1% – 5% 坏样本召回率显著下降 过采样(SMOTE)或欠采样
重度 < 1% 模型几乎无法学习坏样本模式 异常检测 + 集成学习
实操提示:不要仅依赖全局准确率评估模型。在重度不平衡场景下,应使用 Precision-Recall 曲线 和 F1-score 作为主要评估指标。

4.2 长尾分布:尾部样本的稀疏性挑战

坏样本往往集中在特征空间的尾部区域。例如,交易金额极高或极低的样本,其坏账率可能远高于中间区间。长尾分布导致模型在尾部区域缺乏训练数据,泛化能力差。

关键归因:长尾分布下的坏样本通常具有 高价值但高稀疏性 的特征。模型在尾部区域的预测方差大,容易产生极端错误。

处理长尾分布的常用策略:

  • 分箱与离散化:将连续特征按分位数分箱,降低尾部稀疏性。
  • 对数变换:对偏态分布的特征做 log 或 Box-Cox 变换,压缩尾部。
  • 样本加权:根据特征密度对尾部样本赋予更高权重。
类别不平衡 vs 长尾分布:坏样本分布形态对比 类别不平衡 多数类 95% 少数类 5% 样本量差距大 长尾分布 头部 中部 尾部 稀疏 尾部样本稀疏,模型难以学习有效模式

4.3 时间漂移:样本分布随时间的结构性变化

风控模型面临最严峻的挑战之一是时间漂移。坏样本的分布会随着宏观经济、政策调整、欺诈手法演变而发生变化。如果训练集与测试集的时间窗口差异过大,模型性能会急剧下降。

时间漂移的三种常见类型:

  • 概念漂移:坏样本的定义或模式发生变化(例如,新的欺诈手法出现)。
  • 数据漂移:特征本身的分布发生变化(例如,用户收入分布因经济周期改变)。
  • 样本选择漂移:训练集与测试集的采样方式不同(例如,只选取了特定时间段的样本)。
风险警示:时间漂移是导致模型上线后快速失效的首要原因。建议在模型监控中设置 PSI(群体稳定性指标) 阈值,当 PSI > 0.25 时触发重新训练。

4.4 特征分布对比:坏样本与好样本的差异量化

通过对比坏样本与好样本在关键特征上的分布差异,可以快速定位导致模型失效的原因。常用的对比方法包括:

对比方法 适用场景 输出形式 阈值参考
KS 检验 连续特征分布差异 KS 统计量 + p 值 KS > 0.1 视为显著差异
PSI 特征分布随时间变化 单一数值指标 PSI < 0.1 稳定;0.1–0.25 需关注;> 0.25 异常
分位数对比图 可视化尾部差异 Q-Q 图或分位数箱线图 尾部偏离超过 2 个标准差
特征重要性排序 识别对坏样本区分度最高的特征 SHAP 值或 Gain 值列表 Top 5 特征贡献度 > 60%
特征分布对比分析流程 坏样本集 好样本集 特征提取与对齐 统一特征空间与时间窗口 分布对比计算 KS / PSI / 分位数 归因 列表 分析要点 对比坏样本与好样本在 Top-10 特征上的分布差异,重点关注尾部偏离超过 2 个标准差的特征。 结合时间窗口切片,判断差异是系统性漂移还是局部噪声。

4.5 综合归因策略:从分布到行动

完成上述四个维度的分析后,需要将结果整合为可执行的归因策略。以下是一个典型的归因决策流程:

  1. 检测类别不平衡:计算坏样本占比,若 < 5% 则启动重采样或加权策略。
  2. 识别长尾特征:对连续特征做分位数分析,标记尾部密度低于 1% 的特征。
  3. 量化时间漂移:按月计算 PSI,标记 PSI > 0.25 的时间段与特征。
  4. 执行特征对比:对坏样本与好样本做 KS 检验,输出差异显著的特征列表。
  5. 生成归因报告:将上述结果汇总为结构化报告,标注每个特征的漂移方向与影响程度。
收益评估关联:分布分析的结果直接决定模型优化的优先级。例如,若时间漂移是主要问题,则优先更新训练数据的时间窗口;若长尾分布是瓶颈,则优先做特征变换与样本加权。每项优化都应对应一个可量化的收益指标(如 AUC 提升 0.02 或坏样本召回率提升 5%)。