4、特征工程入门:特征构造、特征变换(WOE/IV)、特征分箱、特征筛选方法论

特征工程是信用评分模型开发中最耗时、最影响模型效果的核心环节。原始数据通常包含大量噪声、缺失值和冗余信息,必须经过系统性的构造、变换、分箱与筛选,才能转化为对违约风险具有区分能力的特征变量。本章将围绕特征工程的四大核心步骤展开,重点讲解WOE/IV编码、最优分箱策略以及基于IV与相关性矩阵的筛选方法。

核心原则:特征工程的目标不是“变量越多越好”,而是“变量越稳定、越可解释、与目标变量相关性越强越好”。在PD模型中,每个特征都应具备清晰的业务含义和统计显著性。

4.1 特征构造:从原始数据到衍生变量

特征构造是指基于原始字段,通过数学变换、组合或业务规则生成新的预测变量。常见的构造方法包括:

  • 数值型变换:对数变换、平方根变换、标准化、归一化。
  • 组合特征:比率(如负债收入比)、差值(如额度使用率)、乘积(如年龄×收入)。
  • 时间窗口统计:近3个月/6个月/12个月的逾期次数均值、最大值、趋势斜率。
  • 类别特征编码:频数编码、目标编码(Target Encoding)、WOE编码。
构造方法 示例 适用场景
比率特征 月还款额 / 月收入 衡量还款压力
聚合统计 近6个月最大逾期天数 捕捉历史违约严重性
趋势特征 近3个月额度使用率变化斜率 识别资金紧张趋势
交叉特征 年龄分组 × 职业类型 细分客群风险差异
实战建议:特征构造应遵循“业务驱动+数据验证”双轨制。先基于风控经验列出候选衍生变量,再通过单变量分析(如IV值)验证其区分能力,避免过度拟合。

4.2 特征变换:WOE与IV的核心原理

WOE(Weight of Evidence,证据权重)和IV(Information Value,信息量)是信用评分模型中最重要的特征变换与筛选工具。WOE将原始特征值映射为对数比率,IV则量化特征对目标变量的整体区分能力。

WOE计算公式:

WOE_i = ln( (Good_i / Good_total) / (Bad_i / Bad_total) )

其中,Good_i 为第 i 个分箱中好客户数,Bad_i 为第 i 个分箱中坏客户数。

IV计算公式:

IV = Σ ( (Good_i / Good_total - Bad_i / Bad_total) × WOE_i )
IV值范围 区分能力 处理建议
< 0.02 无预测力 剔除
0.02 ~ 0.10 弱 可保留,需结合业务
0.10 ~ 0.30 中等 优先保留
0.30 ~ 0.50 强 核心特征
> 0.50 极强(需警惕过拟合) 验证稳定性后保留
注意:WOE变换要求每个分箱中同时包含好客户和坏客户(即Good_i > 0 且 Bad_i > 0),否则对数运算无定义。实际处理中需对空箱或零值箱进行合并或平滑处理。
WOE/IV 特征变换与筛选流程 原始特征 特征分箱 WOE计算 IV计算 特征筛选 WOE编码特征 WOE编码后的特征可直接输入逻辑回归模型,系数具有可解释性

4.3 特征分箱:最优离散化策略

特征分箱是将连续变量或高基数类别变量划分为有限个区间(箱)的过程。在信用评分模型中,分箱的主要目的包括:处理非线性关系、降低异常值影响、增强模型稳定性、满足WOE计算要求。

常用分箱方法对比:

分箱方法 原理 优点 缺点
等距分箱 按值域等间隔划分 简单直观 易导致样本分布不均
等频分箱 按样本量等比例划分 箱内样本均衡 可能破坏业务含义
决策树分箱 基于目标变量递归分割 自动捕捉最优切点 易过拟合,需剪枝
卡方分箱 基于卡方检验合并相邻箱 统计显著性驱动 计算复杂度较高
最优分箱 最大化IV或最小化熵 区分能力最强 需设置箱数上限
分箱经验规则:
  • 每个分箱至少包含5%的样本,避免过细划分。
  • 每个分箱中好客户与坏客户比例不应为0。
  • WOE值应呈现单调性(递增或递减),便于业务解释。
  • 分箱数量通常控制在3~8箱之间。

4.4 特征筛选方法论:从海量变量到核心特征集

经过构造、变换和分箱后,特征数量可能达到数百甚至上千。特征筛选的目标是在保证预测精度的前提下,剔除冗余、噪声和共线性强的变量,构建简洁、稳定、可解释的特征子集。

特征筛选三步法:

  1. 第一轮:缺失率与方差过滤
    • 剔除缺失率 > 70% 的特征。
    • 剔除方差接近0的常数特征。
  2. 第二轮:IV值筛选
    • 保留 IV > 0.02 的特征。
    • 对 IV > 0.50 的特征进行稳定性验证(PSI)。
  3. 第三轮:相关性分析与多重共线性诊断
    • 计算特征间 Pearson/Spearman 相关系数。
    • 剔除相关系数 > 0.7 的冗余特征对(保留IV较高者)。
    • 计算 VIF(方差膨胀因子),剔除 VIF > 10 的特征。
特征筛选三步法流程 全量特征集 第一步:缺失率/方差过滤 剔除缺失>70% / 方差≈0 第二步:IV值筛选 保留IV>0.02,验证IV>0.50 第三步:相关性/共线性诊断 剔除|r|>0.7 / VIF>10 核心特征子集 三步筛选后,特征数量通常从数百降至20~50个,保留IV高、相关性低、业务可解释的核心变量 最终特征集需通过PSI稳定性检验和逻辑回归系数符号一致性验证
进阶技巧:在第三步相关性筛选中,建议同时保留业务含义互补但统计上高度相关的特征(如“近3个月逾期次数”与“近6个月逾期次数”),通过后续的逐步回归或Lasso正则化自动选择最优组合。

4.5 特征工程实战清单

步骤 关键操作 输出 质量检查
特征构造 比率、聚合、趋势、交叉 衍生变量列表 业务合理性验证
特征分箱 最优分箱 / 卡方分箱 分箱映射表 单调性、箱内样本量
WOE变换 计算WOE并替换原始值 WOE编码数据集 IV值、WOE符号一致性
特征筛选 缺失率→IV→相关性→VIF 核心特征子集 PSI稳定性、共线性诊断
最终验证 逻辑回归系数符号检验 可解释特征集 系数方向与业务预期一致
常见陷阱:
  • 分箱后WOE值出现非单调性,导致模型系数符号与业务逻辑矛盾。
  • IV值过高(>0.50)的特征在跨时间验证集上PSI显著恶化,属于过拟合信号。
  • 特征筛选时仅依赖统计指标而忽略业务可解释性,导致模型上线后难以通过风控审计。

特征工程是信用评分模型开发中“一分耕耘一分收获”的环节。扎实的特征构造、严谨的WOE/IV变换、科学的分箱策略以及系统化的筛选方法论,是构建高性能、高稳定性PD模型的基础。下一阶段将基于筛选后的核心特征集,进入模型训练与验证环节。