4、特征工程入门:特征构造、特征变换(WOE/IV)、特征分箱、特征筛选方法论
特征工程是信用评分模型开发中最耗时、最影响模型效果的核心环节。原始数据通常包含大量噪声、缺失值和冗余信息,必须经过系统性的构造、变换、分箱与筛选,才能转化为对违约风险具有区分能力的特征变量。本章将围绕特征工程的四大核心步骤展开,重点讲解WOE/IV编码、最优分箱策略以及基于IV与相关性矩阵的筛选方法。
核心原则:特征工程的目标不是“变量越多越好”,而是“变量越稳定、越可解释、与目标变量相关性越强越好”。在PD模型中,每个特征都应具备清晰的业务含义和统计显著性。
4.1 特征构造:从原始数据到衍生变量
特征构造是指基于原始字段,通过数学变换、组合或业务规则生成新的预测变量。常见的构造方法包括:
- 数值型变换:对数变换、平方根变换、标准化、归一化。
- 组合特征:比率(如负债收入比)、差值(如额度使用率)、乘积(如年龄×收入)。
- 时间窗口统计:近3个月/6个月/12个月的逾期次数均值、最大值、趋势斜率。
- 类别特征编码:频数编码、目标编码(Target Encoding)、WOE编码。
| 构造方法 | 示例 | 适用场景 |
|---|---|---|
| 比率特征 | 月还款额 / 月收入 | 衡量还款压力 |
| 聚合统计 | 近6个月最大逾期天数 | 捕捉历史违约严重性 |
| 趋势特征 | 近3个月额度使用率变化斜率 | 识别资金紧张趋势 |
| 交叉特征 | 年龄分组 × 职业类型 | 细分客群风险差异 |
实战建议:特征构造应遵循“业务驱动+数据验证”双轨制。先基于风控经验列出候选衍生变量,再通过单变量分析(如IV值)验证其区分能力,避免过度拟合。
4.2 特征变换:WOE与IV的核心原理
WOE(Weight of Evidence,证据权重)和IV(Information Value,信息量)是信用评分模型中最重要的特征变换与筛选工具。WOE将原始特征值映射为对数比率,IV则量化特征对目标变量的整体区分能力。
WOE计算公式:
WOE_i = ln( (Good_i / Good_total) / (Bad_i / Bad_total) )
其中,Good_i 为第 i 个分箱中好客户数,Bad_i 为第 i 个分箱中坏客户数。
IV计算公式:
IV = Σ ( (Good_i / Good_total - Bad_i / Bad_total) × WOE_i )
| IV值范围 | 区分能力 | 处理建议 |
|---|---|---|
| < 0.02 | 无预测力 | 剔除 |
| 0.02 ~ 0.10 | 弱 | 可保留,需结合业务 |
| 0.10 ~ 0.30 | 中等 | 优先保留 |
| 0.30 ~ 0.50 | 强 | 核心特征 |
| > 0.50 | 极强(需警惕过拟合) | 验证稳定性后保留 |
注意:WOE变换要求每个分箱中同时包含好客户和坏客户(即Good_i > 0 且 Bad_i > 0),否则对数运算无定义。实际处理中需对空箱或零值箱进行合并或平滑处理。
4.3 特征分箱:最优离散化策略
特征分箱是将连续变量或高基数类别变量划分为有限个区间(箱)的过程。在信用评分模型中,分箱的主要目的包括:处理非线性关系、降低异常值影响、增强模型稳定性、满足WOE计算要求。
常用分箱方法对比:
| 分箱方法 | 原理 | 优点 | 缺点 |
|---|---|---|---|
| 等距分箱 | 按值域等间隔划分 | 简单直观 | 易导致样本分布不均 |
| 等频分箱 | 按样本量等比例划分 | 箱内样本均衡 | 可能破坏业务含义 |
| 决策树分箱 | 基于目标变量递归分割 | 自动捕捉最优切点 | 易过拟合,需剪枝 |
| 卡方分箱 | 基于卡方检验合并相邻箱 | 统计显著性驱动 | 计算复杂度较高 |
| 最优分箱 | 最大化IV或最小化熵 | 区分能力最强 | 需设置箱数上限 |
分箱经验规则:
- 每个分箱至少包含5%的样本,避免过细划分。
- 每个分箱中好客户与坏客户比例不应为0。
- WOE值应呈现单调性(递增或递减),便于业务解释。
- 分箱数量通常控制在3~8箱之间。
4.4 特征筛选方法论:从海量变量到核心特征集
经过构造、变换和分箱后,特征数量可能达到数百甚至上千。特征筛选的目标是在保证预测精度的前提下,剔除冗余、噪声和共线性强的变量,构建简洁、稳定、可解释的特征子集。
特征筛选三步法:
- 第一轮:缺失率与方差过滤
- 剔除缺失率 > 70% 的特征。
- 剔除方差接近0的常数特征。
- 第二轮:IV值筛选
- 保留 IV > 0.02 的特征。
- 对 IV > 0.50 的特征进行稳定性验证(PSI)。
- 第三轮:相关性分析与多重共线性诊断
- 计算特征间 Pearson/Spearman 相关系数。
- 剔除相关系数 > 0.7 的冗余特征对(保留IV较高者)。
- 计算 VIF(方差膨胀因子),剔除 VIF > 10 的特征。
进阶技巧:在第三步相关性筛选中,建议同时保留业务含义互补但统计上高度相关的特征(如“近3个月逾期次数”与“近6个月逾期次数”),通过后续的逐步回归或Lasso正则化自动选择最优组合。
4.5 特征工程实战清单
| 步骤 | 关键操作 | 输出 | 质量检查 |
|---|---|---|---|
| 特征构造 | 比率、聚合、趋势、交叉 | 衍生变量列表 | 业务合理性验证 |
| 特征分箱 | 最优分箱 / 卡方分箱 | 分箱映射表 | 单调性、箱内样本量 |
| WOE变换 | 计算WOE并替换原始值 | WOE编码数据集 | IV值、WOE符号一致性 |
| 特征筛选 | 缺失率→IV→相关性→VIF | 核心特征子集 | PSI稳定性、共线性诊断 |
| 最终验证 | 逻辑回归系数符号检验 | 可解释特征集 | 系数方向与业务预期一致 |
常见陷阱:
- 分箱后WOE值出现非单调性,导致模型系数符号与业务逻辑矛盾。
- IV值过高(>0.50)的特征在跨时间验证集上PSI显著恶化,属于过拟合信号。
- 特征筛选时仅依赖统计指标而忽略业务可解释性,导致模型上线后难以通过风控审计。
特征工程是信用评分模型开发中“一分耕耘一分收获”的环节。扎实的特征构造、严谨的WOE/IV变换、科学的分箱策略以及系统化的筛选方法论,是构建高性能、高稳定性PD模型的基础。下一阶段将基于筛选后的核心特征集,进入模型训练与验证环节。