2. 分箱的数学原理:信息价值(IV)的定义与计算
在特征工程中,分箱(Binning)不仅是一种离散化手段,更是衡量变量预测能力的数学基础。信息价值(Information Value, IV)是评估分箱后变量对目标变量区分能力的核心指标,广泛应用于信用评分、风控建模和营销响应预测等领域。
2.1 信息价值(IV)的定义
IV 基于每个分箱内好样本(通常指目标=0或正常样本)与坏样本(目标=1或违约样本)的分布差异来量化变量的区分能力。其核心思想是:如果某个分箱中坏样本占比显著高于好样本占比,则该分箱对识别风险具有信息量。
IV 的计算公式如下:
IV = Σ ( (坏样本占比_i - 好样本占比_i) × WOE_i )
其中:
- 坏样本占比_i = 第i个分箱中坏样本数 / 总坏样本数
- 好样本占比_i = 第i个分箱中好样本数 / 总好样本数
- WOE_i = ln( 坏样本占比_i / 好样本占比_i )
WOE(Weight of Evidence,证据权重)是 IV 计算中的中间变量,其符号和大小反映了该分箱的风险倾向:
- WOE > 0:该分箱中坏样本占比高于好样本占比,风险偏高。
- WOE < 0:该分箱中好样本占比高于坏样本占比,风险偏低。
- WOE = 0:该分箱无区分能力。
关键理解: IV 是 WOE 的加权和,权重为 (坏样本占比 - 好样本占比)。这种加权方式使得 IV 值始终非负,且对分布差异大的分箱赋予更高权重。
2.2 IV 的计算步骤与示例
下面通过一个具体的分箱示例,展示 IV 的完整计算过程。假设某连续变量经分箱后得到 4 个区间,样本分布如下:
| 分箱区间 | 好样本数 | 坏样本数 | 好样本占比 | 坏样本占比 | WOE | (坏-好)占比差 | IV 贡献 |
|---|---|---|---|---|---|---|---|
| [0, 30) | 500 | 200 | 0.250 | 0.400 | 0.470 | 0.150 | 0.0705 |
| [30, 50) | 600 | 150 | 0.300 | 0.300 | 0.000 | 0.000 | 0.0000 |
| [50, 80) | 700 | 100 | 0.350 | 0.200 | -0.560 | -0.150 | 0.0840 |
| [80, ∞) | 200 | 50 | 0.100 | 0.100 | 0.000 | 0.000 | 0.0000 |
| 合计 | 2000 | 500 | 1.000 | 1.000 | — | — | 0.1545 |
计算过程说明:
- 第 1 箱 [0,30):坏样本占比 0.400 > 好样本占比 0.250,WOE = ln(0.400/0.250) ≈ 0.470,IV 贡献 = 0.150 × 0.470 = 0.0705。
- 第 2 箱 [30,50):两者占比相等,WOE = 0,无信息贡献。
- 第 3 箱 [50,80):好样本占比更高,WOE 为负,但占比差为负,乘积为正,IV 贡献 = 0.0840。
- 第 4 箱 [80,∞):占比相等,无贡献。
- 最终 IV = 0.0705 + 0.0000 + 0.0840 + 0.0000 = 0.1545。
计算要点: IV 的每个分箱贡献始终为非负值,因为 (坏样本占比 - 好样本占比) 与 WOE 同号。当分箱内样本分布完全一致时,贡献为 0。
2.3 IV 与预测能力的对应关系表
在实际建模中,IV 值的大小直接对应变量的预测能力。以下是业界通用的 IV 评价标准:
| IV 值范围 | 预测能力 | 建模建议 |
|---|---|---|
| < 0.02 | 无预测能力 | 建议剔除该变量 |
| 0.02 ~ 0.10 | 弱预测能力 | 可结合业务逻辑保留或尝试变换 |
| 0.10 ~ 0.30 | 中等预测能力 | 适合纳入模型,通常为有效变量 |
| 0.30 ~ 0.50 | 强预测能力 | 优质变量,优先保留 |
| > 0.50 | 极强预测能力(可疑) | 需检查是否存在过拟合或数据泄露 |
注意: IV > 0.50 的变量虽然预测能力极强,但在实际业务中往往意味着变量与目标之间存在直接逻辑关联(如“是否逾期”与“是否违约”),或存在数据泄露风险。建议结合业务逻辑进行复核,避免模型过拟合。
2.4 IV 与 WOE 的关系图解
下面的 SVG 图展示了 IV 计算的核心流程,以及 WOE 与 IV 贡献之间的数学关系:
2.5 IV 的数学性质与使用注意事项
理解 IV 的数学性质有助于在实际建模中正确使用:
- 非负性: IV 值始终 ≥ 0,当且仅当所有分箱的好/坏样本占比完全相等时 IV = 0。
- 单调性: IV 值随分箱区分能力的增强而单调递增,但并非线性关系。
- 分箱敏感性: 分箱数量、边界选择会直接影响 IV 值。分箱过细可能导致 IV 虚高,分箱过粗可能丢失信息。
- 样本量要求: 每个分箱应至少包含 5% 的样本,且好/坏样本数均不宜为 0,否则 WOE 计算会出现无穷值。
实践建议: 在特征筛选阶段,优先保留 IV > 0.02 的变量;对于 IV 在 0.02~0.10 之间的变量,可结合业务重要性决定是否保留;IV > 0.50 的变量务必进行业务逻辑复核。
通过掌握 IV 的定义、计算方法和评价标准,你可以在分箱过程中量化每个变量的预测能力,为后续的 WOE 编码和模型构建奠定坚实的数学基础。