2. 基础概念

在信用评分、风控建模与用户行为预测中,WOE与IV几乎是特征筛选阶段最常被提及的两个指标。很多人会算,却说不清它们到底在衡量什么。本节把这两个概念拆开讲透,并建立它们与信息论中互信息、信息增益之间的联系,让你不仅会调用函数,还能解释每一个数值的业务含义。

一、WOE的定义与计算逻辑

WOE全称Weight of Evidence,中文常译为“证据权重”。它衡量的是:在某个特征分箱内,坏样本占比与好样本占比之间的差异程度。其公式为:

WOE_i = ln( (Bad_i / Bad_total) / (Good_i / Good_total) )

其中:
Bad_i     = 第 i 箱中的坏样本数
Good_i    = 第 i 箱中的好样本数
Bad_total = 全体坏样本数
Good_total= 全体好样本数

从公式可以看出,WOE本质是一个对数几率比。当某一箱的坏样本占比高于整体水平时,WOE为正;反之则为负。WOE的绝对值越大,说明该箱的区分能力越强。需要注意的是,WOE的符号方向与“坏样本定义”强相关:如果坏样本定义为违约,则WOE为正表示该箱违约风险更高。

WOE的一个实用性质是:它把非线性关系转化为线性关系。逻辑回归本质上是对WOE进行线性加权,因此分箱后的WOE编码能让模型更稳定、更易解释。

二、IV的定义与信息量解释

IV全称Information Value,中文译为“信息值”。它是在WOE基础上,对每一箱的WOE进行加权求和得到的整体指标:

IV = Σ ( (Bad_i / Bad_total) - (Good_i / Good_total) ) × WOE_i

IV可以理解为“该特征对好坏样本区分所贡献的总信息量”。它来源于信息论中的相对熵(KL散度),衡量的是分箱后的条件分布与总体分布之间的差异。IV越大,说明该特征携带的区分信息越多。

业界常用的IV经验阈值如下表所示:

IV取值范围 区分能力 建模建议
< 0.02 几乎无区分能力 建议剔除
0.02 ~ 0.1 弱区分能力 可保留,需结合业务判断
0.1 ~ 0.3 中等区分能力 优先保留
0.3 ~ 0.5 强区分能力 重点使用
> 0.5 极强,需警惕 排查是否信息泄露或过拟合
IV过高不一定是好事。若某特征IV超过0.5,尤其接近1,往往意味着该特征包含了标签泄露信息,或者分箱过细导致过拟合。此时应回到业务逻辑核查数据来源。

三、与互信息、信息增益的关系

从信息论视角看,IV与互信息(Mutual Information)、信息增益(Information Gain)有共同的数学根基,但应用场景不同。

  • 互信息:衡量两个随机变量之间的整体依赖程度,不区分自变量与因变量,也不要求分箱。IV可以看作互信息在“二分类标签 + 分箱特征”场景下的一种特化形式。
  • 信息增益:常用于决策树分裂,衡量某个特征分裂前后熵的减少量。它偏向取值较多的特征,容易过拟合;而IV通过WOE加权,对分箱数量和样本比例更稳健。
  • IV:专门针对二分类问题设计,强调好坏样本分布的差异,且天然支持分箱后的单调性约束,因此更适合评分卡类模型。

三者的核心区别可以概括为:互信息看“相关性强不强”,信息增益看“分裂后纯度提升多少”,IV看“分箱后好坏样本分布差异有多大”。在风控建模中,IV之所以更常用,是因为它直接对应逻辑回归的输入形式,且可解释性强。

四、业务含义与实战场景

假设我们在做一个贷款违约预测模型,特征“近6个月逾期次数”分箱后的统计如下:

分箱        好样本  坏样本   WOE      IV贡献
0次         8000    200     -0.47    0.021
1次         1500    300      0.31    0.018
2次         400     250      0.98    0.045
3次及以上   100     250      1.85    0.089
合计        10000   1000     —       0.173

从业务上看:0次逾期的人群WOE为负,说明其违约概率低于整体水平;3次及以上人群WOE高达1.85,违约风险显著偏高。整体IV为0.173,属于中等偏强区分能力,适合纳入模型。

再比如“年龄”特征,如果分箱后WOE不单调(例如青年WOE为正、中年WOE为负、老年又为正),说明该特征与违约风险的关系并非线性,此时需要重新分箱或结合业务做非线性变换。这也是后续章节要重点解决的单调性约束问题。

业务含义总结:WOE告诉你“这一箱的人比平均更坏还是更好”,IV告诉你“这个特征整体上能不能把好坏样本分开”。前者用于编码,后者用于筛选。

五、常见误区与复盘

  1. 误区一:WOE越大越好。WOE的绝对值大只代表该箱区分度高,但若某箱样本极少,WOE会极不稳定,容易造成过拟合。应同时关注样本量。
  2. 误区二:IV高就一定要用。IV高可能是标签泄露或分箱过细导致。必须结合业务逻辑、时间窗口和跨期验证来判断。
  3. 误区三:WOE和IV可以脱离分箱单独讨论。两者都依赖分箱结果。分箱方式一变,WOE和IV都会变。因此分箱策略才是核心,WOE/IV只是评估工具。
  4. 误区四:把IV当成互信息直接用。IV针对二分类且依赖分箱,互信息不依赖分箱。两者数值不可直接比较,适用场景也不同。

理解WOE与IV的定义和关系,是后续进行最优分箱和单调性约束的前提。只有先明确“我们在衡量什么”,才能在分箱过程中做出既符合统计规律、又符合业务常识的决策。