4、特征工程方法:特征构造、特征选择、特征缩放、时间序列特征提取
在贷后预警模型中,原始数据通常无法直接用于建模。特征工程是将原始数据转化为模型可理解、可学习的高质量特征的过程。本章围绕特征构造、特征选择、特征缩放与时间序列特征提取四大核心方法展开,结合贷后预警场景进行详细阐述。
4.1 特征构造
特征构造是从现有字段中通过数学变换、组合或业务逻辑生成新特征的过程。在贷后预警中,常见的构造方式包括:
- 聚合统计:对客户历史行为进行统计,如近3个月逾期次数、近6个月最大逾期天数、平均还款金额等。
- 比率特征:如负债收入比(DTI)、信用卡使用率、月还款额/月收入。
- 交叉组合:将离散特征进行笛卡尔积,如“职业 × 地区”组合后的逾期率编码。
- 差分与变化率:如当前额度与上月额度的差值、近3个月收入增长率。
贷后场景提示: 特征构造应紧密结合业务逻辑。例如,对于“还款意愿”的刻画,可构造“近3个月最低还款次数”或“连续逾期后全额还款标志”等特征,这些比原始字段更具判别力。
4.2 特征选择
特征选择旨在从高维特征集中筛选出对预警任务最有贡献的子集,降低过拟合风险并提升模型可解释性。常用方法分为三类:
| 方法类别 | 代表算法 | 贷后预警适用场景 |
|---|---|---|
| 过滤法(Filter) | 方差阈值、卡方检验、互信息、相关系数 | 快速剔除低方差或与目标变量无关的特征 |
| 包裹法(Wrapper) | 递归特征消除(RFE)、前向/后向搜索 | 特征数较少时(如<50),追求最优子集 |
| 嵌入法(Embedded) | Lasso回归、树模型特征重要性、XGBoost增益 | 高维数据,自动在训练过程中完成选择 |
实践建议: 在贷后预警实验中,推荐先使用过滤法快速剔除冗余特征,再结合嵌入法(如XGBoost特征重要性)进行精筛。包裹法计算成本高,仅在特征维度较低且对精度要求极高时使用。
4.3 特征缩放
特征缩放解决不同特征量纲差异对模型的影响。在贷后预警中,涉及距离计算(如KNN、K-Means)或梯度下降(如逻辑回归、神经网络)的模型对尺度敏感,必须进行缩放。
- 标准化(Z-score):将特征转换为均值为0、标准差为1的分布。公式:\( z = \frac{x - \mu}{\sigma} \)。适用于数据近似正态分布的场景。
- 归一化(Min-Max):将特征缩放到[0,1]区间。公式:\( x' = \frac{x - min}{max - min} \)。适用于边界明确、无异常值的特征。
- 稳健缩放(RobustScaler):使用中位数和四分位距(IQR)进行缩放,对异常值不敏感。公式:\( x' = \frac{x - median}{IQR} \)。贷后数据常含极端值,推荐优先使用。
注意: 特征缩放必须在训练集上拟合参数(如均值、标准差),再应用到验证集和测试集,避免数据泄露。对于树模型(决策树、随机森林、XGBoost),特征缩放通常不是必需的。
4.4 时间序列特征提取
贷后预警数据天然具有时间序列属性,如客户每月的还款记录、额度变化、逾期状态等。时间序列特征提取旨在捕捉时序中的趋势、周期性和突变点。
常用提取方法包括:
- 滑动窗口统计:对过去N个时间步计算均值、标准差、最大值、最小值、斜率等。例如,近3个月还款金额的波动率。
- 滞后特征:将过去时刻的值作为当前特征,如T-1、T-2期的逾期状态。
- 差分与季节性分解:提取一阶差分(变化量)、同比/环比增长率、季节性成分。
- 时序聚合编码:对时间序列进行全局聚合,如总逾期次数、最长连续逾期天数、最近一次逾期距今时间。
贷后场景案例: 某客户近6个月的还款金额序列为[5000, 5000, 4500, 4000, 3000, 2000]。可提取特征:近3个月均值=3000,近3个月斜率=-1000(下降趋势),近6个月标准差≈1145(波动增大),这些特征对预警模型识别“还款能力恶化”至关重要。
下图展示了贷后预警中特征工程四大模块的完整流程与相互关系:
4.5 特征工程在贷后预警中的综合应用
在实际贷后预警实验中,特征工程并非孤立执行,而是形成一套流水线。下图展示了特征工程与模型训练、评估的集成关系:
4.6 特征工程实验评估要点
在贷后预警实验中,评估特征工程效果需关注以下指标:
- 特征重要性排序:使用树模型或Permutation Importance识别Top-N特征,验证其业务合理性。
- 特征稳定性:通过PSI(群体稳定性指标)监控特征在时间窗口上的分布变化,避免特征漂移。
- 模型性能增益:对比加入新特征前后模型AUC、KS、召回率等指标的变化,量化特征贡献。
- 计算效率:记录特征构造与选择的耗时,确保在贷后实时预警场景中满足延迟要求。
实验记录模板: 建议在实验报告中为每个特征工程步骤记录:方法名称、参数设置、输出特征数量、对模型AUC的提升幅度、计算耗时。例如:“特征构造:滑动窗口3个月均值,窗口=3,新增特征5个,AUC提升0.012,耗时0.3秒”。