2. 样本分层理论基础

在风控建模与规则引擎优化中,样本分层是提升模型泛化能力与规则命中精度的核心前置步骤。本章从抽样原理出发,系统讲解同质性/异质性原则、分层变量选择策略,并通过图示与表格帮助理解分层设计的底层逻辑。

2.1 分层抽样原理

分层抽样(Stratified Sampling)是将总体按某个或某几个特征划分为互不重叠的层(Strata),然后在各层内独立进行随机抽样。其核心目标是:在保证样本代表性的同时,降低抽样误差。

与简单随机抽样相比,分层抽样在风控场景中的优势明显:

对比维度 简单随机抽样 分层抽样
样本代表性 依赖随机性,小概率出现极端偏差 各层按比例覆盖,代表性稳定
方差控制 方差较大,尤其当总体分布不均时 层内方差小,整体方差显著降低
对稀有客群的覆盖 容易遗漏高风险/高价值小群体 可强制分配样本量,确保覆盖
风控适用场景 仅适合同质性高的总体 适合客群、额度、渠道差异大的场景

分层抽样的数学基础:若总体被划分为 \( L \) 层,每层大小为 \( N_h \),总体大小 \( N = \sum N_h \),则分层抽样估计量的方差为:

Var(ȳ_st) = Σ (N_h / N)² * (S_h² / n_h) * (1 - n_h / N_h)

其中 \( S_h² \) 为第 \( h \) 层的总体方差,\( n_h \) 为第 \( h \) 层的样本量。当层内方差 \( S_h² \) 越小,整体方差越小,抽样效率越高。

实战要点:在风控样本分层中,通常采用比例分配(各层抽样比例相同)或最优分配(方差大的层多抽)。对于坏账率极低的优质客群层,建议使用最优分配,避免样本中坏样本过少导致模型失效。

2.2 同质性原则与异质性原则

分层设计的两个核心原则决定了分层效果的好坏:

  • 层内同质性(Within-stratum Homogeneity):同一层内的样本在目标变量(如违约率、逾期天数)上尽可能相似。层内方差越小,分层带来的精度提升越大。
  • 层间异质性(Between-stratum Heterogeneity):不同层之间的目标变量分布差异尽可能大。层间均值差异越明显,分层对总体方差的削减效果越显著。

这两个原则互为表里:层内越纯,层间差异自然越大。实际分层时,通常用组内平方和(SSW)与组间平方和(SSB)的比值来评估分层效果:

分层效率 = SSB / (SSB + SSW)

该比值越接近 1,说明分层越有效。

避坑指南:不要为了追求层内同质性而划分过多层。层数过多会导致某些层样本量过小,反而增大抽样误差。风控实践中,单变量分层通常控制在 3~6 层,多变量交叉分层控制在 8~12 层以内。
同质性 vs 异质性:分层效果对比 未分层:层内异质性高 不同风险等级的样本混杂,层内方差大 分层后:层内同质、层间异质 高风险层 中风险层 低风险层 层内方差 ↓ 层间差异 ↑

2.3 分层变量选择策略

分层变量的选择直接决定分层效果。在风控场景中,常用的分层变量可分为三类:

变量类别 典型变量 分层依据 适用场景
额度类 授信额度、借款金额、额度使用率 额度高低与违约风险呈非线性关系 信贷审批、额度管理模型
渠道类 获客渠道、流量来源、推广活动ID 不同渠道客群质量差异大 反欺诈、渠道质量评估
客群类 年龄、收入、职业、历史逾期次数 客群画像决定行为模式 行为评分、催收策略

2.3.1 额度分层策略

额度变量通常呈现右偏分布:大量用户集中在低额度区间,少量高额度用户贡献大部分风险敞口。分层时建议:

  • 使用分位数(如 25%、50%、75%、90%)作为切分点,而非等距切分。
  • 对高额度区间进一步细分,因为该区间坏账波动大。
  • 结合额度使用率(Usage Rate)做交叉分层,识别“高额度+高使用率”的高危客群。

2.3.2 渠道分层策略

渠道变量是风控分层中异质性最强的变量之一。不同渠道的客群质量、欺诈比例、逾期表现可能相差数倍。分层时注意:

  • 按渠道的历史坏账率排序后分层,而非按渠道名称字母排序。
  • 对于新渠道(样本量不足),归入“其他”层或使用贝叶斯收缩估计。
  • 渠道与额度交叉分层时,优先保证高风险渠道的样本量充足。

2.3.3 客群分层策略

客群分层通常基于用户画像或历史行为。常用分层变量组合:

# 客群分层变量组合示例
分层变量 = {
  '年龄': ['18-25', '26-35', '36-45', '46+'],
  '历史逾期次数': ['0次', '1-2次', '3次及以上'],
  '收入等级': ['低', '中低', '中高', '高']
}

# 交叉分层后得到 4 * 3 * 4 = 48 个层
# 实际使用时需合并样本量过小的层(如 < 50 条)
重要提醒:客群分层时避免使用与目标变量高度相关的变量(如“是否逾期”作为分层变量),否则会导致层内方差被严重低估,模型评估结果失真。应使用先验变量(在目标事件发生前已知的变量)。
分层变量选择决策流程 候选分层变量池 是否与目标变量(违约率)强相关? 排除(信息量低) 保留(候选通过) 层内方差是否显著小于总体方差? 换变量或合并层 确定分层变量 最终选择 2~3 个核心变量进行交叉分层

2.4 分层变量选择的量化评估

除了定性判断,还可以使用以下指标量化评估分层变量的效果:

评估指标 计算公式 理想值 说明
组间方差占比 SSB / (SSB + SSW) > 0.3 越大说明分层变量区分能力越强
层内变异系数 CV_h = σ_h / μ_h < 0.5 各层内变异系数越小越好
信息价值(IV) IV = Σ (p_i_good - p_i_bad) * WOE_i > 0.1 衡量变量对好坏样本的区分能力
分层效率提升 (Var_srs - Var_strat) / Var_srs > 20% 相比简单随机抽样的方差降低比例
实战案例:某消费金融平台在构建申请评分卡时,使用“授信额度”作为分层变量。原始数据中,额度在 1000~50000 元之间呈长尾分布。按 25%、50%、75%、90% 分位数切分为 5 层后,组间方差占比从 0.12 提升至 0.38,分层效率提升达 45%。后续模型在测试集上的 KS 值从 0.32 提升至 0.39。

2.5 本章小结

  • 分层抽样的核心是降低层内方差、增大层间差异,从而提升样本代表性和模型稳定性。
  • 同质性原则要求层内样本尽可能相似,异质性原则要求层间差异尽可能大,两者共同决定分层效果。
  • 分层变量选择应优先考虑额度、渠道、客群三类变量,并通过量化指标(组间方差占比、IV值等)验证分层效果。
  • 实际应用中,建议使用 2~3 个核心变量进行交叉分层,层数控制在 8~12 层以内,避免过细分层导致样本稀疏。