2. 基础概念
在信用评分、风控建模与用户行为预测中,WOE与IV几乎是特征筛选阶段最常被提及的两个指标。很多人会算,却说不清它们到底在衡量什么。本节把这两个概念拆开讲透,并建立它们与信息论中互信息、信息增益之间的联系,让你不仅会调用函数,还能解释每一个数值的业务含义。
一、WOE的定义与计算逻辑
WOE全称Weight of Evidence,中文常译为“证据权重”。它衡量的是:在某个特征分箱内,坏样本占比与好样本占比之间的差异程度。其公式为:
WOE_i = ln( (Bad_i / Bad_total) / (Good_i / Good_total) )
其中:
Bad_i = 第 i 箱中的坏样本数
Good_i = 第 i 箱中的好样本数
Bad_total = 全体坏样本数
Good_total= 全体好样本数
从公式可以看出,WOE本质是一个对数几率比。当某一箱的坏样本占比高于整体水平时,WOE为正;反之则为负。WOE的绝对值越大,说明该箱的区分能力越强。需要注意的是,WOE的符号方向与“坏样本定义”强相关:如果坏样本定义为违约,则WOE为正表示该箱违约风险更高。
二、IV的定义与信息量解释
IV全称Information Value,中文译为“信息值”。它是在WOE基础上,对每一箱的WOE进行加权求和得到的整体指标:
IV = Σ ( (Bad_i / Bad_total) - (Good_i / Good_total) ) × WOE_i
IV可以理解为“该特征对好坏样本区分所贡献的总信息量”。它来源于信息论中的相对熵(KL散度),衡量的是分箱后的条件分布与总体分布之间的差异。IV越大,说明该特征携带的区分信息越多。
业界常用的IV经验阈值如下表所示:
| IV取值范围 | 区分能力 | 建模建议 |
|---|---|---|
| < 0.02 | 几乎无区分能力 | 建议剔除 |
| 0.02 ~ 0.1 | 弱区分能力 | 可保留,需结合业务判断 |
| 0.1 ~ 0.3 | 中等区分能力 | 优先保留 |
| 0.3 ~ 0.5 | 强区分能力 | 重点使用 |
| > 0.5 | 极强,需警惕 | 排查是否信息泄露或过拟合 |
三、与互信息、信息增益的关系
从信息论视角看,IV与互信息(Mutual Information)、信息增益(Information Gain)有共同的数学根基,但应用场景不同。
- 互信息:衡量两个随机变量之间的整体依赖程度,不区分自变量与因变量,也不要求分箱。IV可以看作互信息在“二分类标签 + 分箱特征”场景下的一种特化形式。
- 信息增益:常用于决策树分裂,衡量某个特征分裂前后熵的减少量。它偏向取值较多的特征,容易过拟合;而IV通过WOE加权,对分箱数量和样本比例更稳健。
- IV:专门针对二分类问题设计,强调好坏样本分布的差异,且天然支持分箱后的单调性约束,因此更适合评分卡类模型。
三者的核心区别可以概括为:互信息看“相关性强不强”,信息增益看“分裂后纯度提升多少”,IV看“分箱后好坏样本分布差异有多大”。在风控建模中,IV之所以更常用,是因为它直接对应逻辑回归的输入形式,且可解释性强。
四、业务含义与实战场景
假设我们在做一个贷款违约预测模型,特征“近6个月逾期次数”分箱后的统计如下:
分箱 好样本 坏样本 WOE IV贡献
0次 8000 200 -0.47 0.021
1次 1500 300 0.31 0.018
2次 400 250 0.98 0.045
3次及以上 100 250 1.85 0.089
合计 10000 1000 — 0.173
从业务上看:0次逾期的人群WOE为负,说明其违约概率低于整体水平;3次及以上人群WOE高达1.85,违约风险显著偏高。整体IV为0.173,属于中等偏强区分能力,适合纳入模型。
再比如“年龄”特征,如果分箱后WOE不单调(例如青年WOE为正、中年WOE为负、老年又为正),说明该特征与违约风险的关系并非线性,此时需要重新分箱或结合业务做非线性变换。这也是后续章节要重点解决的单调性约束问题。
五、常见误区与复盘
- 误区一:WOE越大越好。WOE的绝对值大只代表该箱区分度高,但若某箱样本极少,WOE会极不稳定,容易造成过拟合。应同时关注样本量。
- 误区二:IV高就一定要用。IV高可能是标签泄露或分箱过细导致。必须结合业务逻辑、时间窗口和跨期验证来判断。
- 误区三:WOE和IV可以脱离分箱单独讨论。两者都依赖分箱结果。分箱方式一变,WOE和IV都会变。因此分箱策略才是核心,WOE/IV只是评估工具。
- 误区四:把IV当成互信息直接用。IV针对二分类且依赖分箱,互信息不依赖分箱。两者数值不可直接比较,适用场景也不同。
理解WOE与IV的定义和关系,是后续进行最优分箱和单调性约束的前提。只有先明确“我们在衡量什么”,才能在分箱过程中做出既符合统计规律、又符合业务常识的决策。