4. 特征工程入门:特征衍生方法、WOE与IV值计算、特征分箱技术
特征工程是评分卡建模中最具创造性与业务价值的环节。原始商户数据通常维度稀疏、噪声高、分布偏斜,直接入模会导致模型不稳定、可解释性差。本章聚焦三大核心任务:特征衍生(从原始字段中构造新特征)、特征分箱(将连续变量离散化)、WOE与IV值计算(量化特征对坏账的区分能力)。
4.1 特征衍生方法
特征衍生通过数学变换、组合或业务规则,从有限原始字段中扩展信息密度。常用方法分为三类:
| 衍生类型 | 典型操作 | 适用场景 | 示例(商户数据) |
|---|---|---|---|
| 单变量变换 | 对数、平方根、倒数、Box-Cox | 长尾分布变量(交易金额、经营时长) | log(近6月交易总额+1) |
| 交叉组合 | 加减乘除、比率、笛卡尔积 | 多变量交互效应(风险叠加) | 退款率 = 退款笔数 / 总交易笔数 |
| 时序聚合 | 滑动窗口均值/标准差、趋势斜率 | 行为模式变化(突增、突降) | 近3月交易额均值 / 近12月交易额均值 |
业务经验提示:衍生特征并非越多越好。每增加一个特征,需评估其业务含义是否清晰、缺失率是否可控、与目标变量的单调性是否合理。建议优先从“比率类”和“趋势类”特征入手,避免纯数学组合导致的过拟合。
以下流程图展示了从原始字段到衍生特征池的典型处理链路:
4.2 特征分箱技术
分箱将连续变量或高基数离散变量划分为有限个区间(箱),是评分卡建模的标准前置步骤。分箱的核心目标:保持单调性、控制过拟合、提升可解释性。三种主流分箱方法对比如下:
| 分箱方法 | 原理 | 优点 | 缺点 | 典型箱数 |
|---|---|---|---|---|
| 等距分箱 | 将变量值域等分为 k 个宽度相同的区间 | 实现简单、边界直观 | 对偏态分布敏感,多数样本可能集中在少数箱 | 5~10 |
| 等频分箱 | 使每个箱包含大致相同的样本数量 | 箱内样本均匀,避免空箱 | 边界可能落在密集区域,导致业务解释困难 | 5~10 |
| 卡方分箱 | 基于卡方检验合并相邻区间,直到满足停止条件 | 自动优化分箱边界,兼顾统计显著性与单调性 | 计算量较大,需设置卡方阈值 | 3~6 |
实践建议:在评分卡项目中,通常先用等频分箱做初始划分(箱数 5~8),再通过卡方分箱或手动调整合并不显著的相邻箱,最终保证每个箱的坏样本占比(Bad Rate)呈单调递增或递减趋势。
以下示意图对比了三种分箱方式在同一个偏态分布变量上的效果:
4.3 WOE与IV值计算
WOE(Weight of Evidence,证据权重)用于衡量每个分箱内好样本与坏样本的分布差异;IV(Information Value,信息量)则汇总所有分箱的WOE,量化特征整体的预测能力。
4.3.1 WOE计算公式
WOE_i = ln( (坏样本占比_i) / (好样本占比_i) )
其中:
坏样本占比_i = 第i箱坏样本数 / 总坏样本数
好样本占比_i = 第i箱好样本数 / 总好样本数
WOE 的正负方向:WOE > 0 表示该箱坏样本占比高于好样本占比(风险偏高);WOE < 0 表示该箱风险偏低。评分卡建模要求每个特征的 WOE 随分箱顺序呈单调变化。
4.3.2 IV值计算与评估标准
IV = Σ ( (坏样本占比_i - 好样本占比_i) × WOE_i )
IV 值越大,特征区分能力越强。行业通用评估标准如下:
| IV 值范围 | 预测能力 | 处理建议 |
|---|---|---|
| < 0.02 | 无预测力 | 建议剔除 |
| 0.02 ~ 0.10 | 弱 | 可保留,需结合业务判断 |
| 0.10 ~ 0.30 | 中等 | 常用入模特征 |
| 0.30 ~ 0.50 | 强 | 高区分力,注意过拟合风险 |
| > 0.50 | 极强(可疑) | 需排查是否与目标变量存在直接业务关联 |
注意:IV 值过高(如 > 0.50)并不总是好事。在商户风险场景中,某些特征(如“历史逾期天数”)可能因业务规则直接决定目标变量,导致 IV 虚高。此类特征应单独评估,避免模型过度依赖单一信号。
4.3.3 计算示例(商户交易额分箱)
假设对“近6月交易总额”进行等频分箱(5箱),统计结果如下:
| 分箱区间(万元) | 好样本数 | 坏样本数 | 好样本占比 | 坏样本占比 | WOE | IV 贡献 |
|---|---|---|---|---|---|---|
| [0, 2) | 800 | 200 | 0.200 | 0.400 | 0.693 | 0.1386 |
| [2, 5) | 1000 | 150 | 0.250 | 0.300 | 0.182 | 0.0091 |
| [5, 10) | 1100 | 100 | 0.275 | 0.200 | -0.318 | 0.0239 |
| [10, 20) | 800 | 40 | 0.200 | 0.080 | -0.916 | 0.1099 |
| [20, ∞) | 300 | 10 | 0.075 | 0.020 | -1.322 | 0.0727 |
| 合计 IV | 0.3542 | |||||
该特征 IV = 0.3542,属于强预测力特征,且 WOE 随交易额增加单调递减(风险降低),符合业务直觉,适合入模。
4.4 特征工程完整流程
将上述技术串联,形成评分卡特征工程的标准流水线:
- 数据清洗:处理缺失值、异常值、重复记录。
- 特征衍生:基于业务理解生成比率、趋势、交叉特征。
- 初始分箱:对连续变量做等频分箱(箱数 5~8)。
- 卡方合并:对相邻箱进行卡方检验,合并不显著区间。
- WOE/IV 计算:评估每个分箱后的特征区分能力。
- 特征筛选:剔除 IV < 0.02 的特征,保留 IV 在 0.02~0.50 区间且单调性合理的特征。
- WOE 编码:将原始变量值映射为对应分箱的 WOE 值,供逻辑回归模型使用。
关键产出物:特征分箱明细表(含边界、样本数、坏样本率、WOE、IV)、特征筛选报告、WOE 编码映射表。这些文档是评分卡模型审计与业务解释的核心依据。