3. 特征工程入门：特征构造、特征选择、特征缩放在定价模型中的应用
在额度定价模型中，原始数据往往无法直接用于模型训练。特征工程是将原始数据转化为模型能够有效学习的信息的过程，直接决定了模型性能的上限。本节将系统讲解特征构造、特征选择与特征缩放三大核心环节，并结合定价场景给出具体实践方法。
核心观点：数据和特征决定了机器学习的上限，而模型和算法只是逼近这个上限。在定价模型中，特征工程的质量直接影响额度分配的公平性与风险区分能力。
3.1 特征构造：从原始数据中提取定价信号
特征构造是根据业务理解与数据分析，从原始变量中衍生出新的、更具预测能力的特征。在额度定价场景中，常见的特征构造方向包括：
- 聚合统计特征：对用户历史行为进行统计汇总，如近3个月平均消费金额、最大逾期天数、还款次数占比。
- 比率与组合特征：将两个或多个原始字段组合成有意义的比率，如负债收入比（DTI）、额度使用率、月还款额/月收入。
- 时间序列特征：提取趋势、波动性、周期性信号，如近6个月收入增长率、消费金额标准差。
- 交叉特征：将类别特征进行笛卡尔积组合，如“职业×学历”组合后统计各组的违约率。
- 业务规则特征：基于风控经验构造的规则变量，如“近7天申请次数>3次”标记为多头借贷风险。
| 特征类型 | 原始字段示例 | 构造后特征 | 定价含义 |
|---|---|---|---|
| 聚合统计 | 历史消费金额 | 近3个月平均消费金额 | 反映用户消费能力与稳定性 |
| 比率组合 | 总负债、月收入 | 负债收入比 = 总负债 / 月收入 | 衡量还款压力，高DTI对应高风险 |
| 时间序列 | 月收入序列 | 收入增长率（环比） | 收入增长趋势预示还款能力变化 |
| 交叉特征 | 职业、学历 | 职业_学历组合违约率 | 细分客群的风险分层 |
| 业务规则 | 申请时间戳 | 近7天申请次数 | 多头借贷风险信号 |
实践建议：特征构造应遵循“业务驱动+数据验证”原则。先基于风控经验提出候选特征，再通过单变量分析（如IV值、KS值）筛选有效特征，避免盲目构造导致维度灾难。
3.2 特征选择：剔除噪声，保留有效信号
特征构造后往往会产生大量候选特征，其中包含冗余、无关甚至噪声特征。特征选择的目标是从候选集中筛选出对定价模型最有贡献的特征子集，以提升模型泛化能力、降低过拟合风险并缩短训练时间。
常用的特征选择方法分为三类：
- 过滤法（Filter）：基于统计指标对特征进行独立评分，不依赖具体模型。常用指标包括：
- IV值（Information Value）：衡量特征对二分类目标的区分能力，IV > 0.02 为有效特征。
- 方差阈值：剔除方差接近0的常数特征。
- 相关系数：剔除高度相关的冗余特征（|r| > 0.95）。
- 包裹法（Wrapper）：以模型性能为评价标准，通过搜索策略选择最优特征子集。常用方法包括递归特征消除（RFE）、前向选择、后向剔除。
- 嵌入法（Embedded）：在模型训练过程中自动完成特征选择，如L1正则化（Lasso）、树模型的特征重要性排序。
| 方法类别 | 代表算法 | 优点 | 缺点 | 定价场景适用性 |
|---|---|---|---|---|
| 过滤法 | IV值、卡方检验 | 计算快、独立于模型 | 忽略特征交互 | 初筛阶段，快速剔除无效特征 |
| 包裹法 | RFE、前向选择 | 考虑特征组合效果 | 计算成本高、易过拟合 | 特征数较少时的精细选择 |
| 嵌入法 | Lasso、XGBoost重要性 | 效率与效果平衡 | 依赖模型选择 | 最常用，适合定价模型开发 |
避坑提示：特征选择时需警惕“未来信息泄露”。例如，使用全量数据计算IV值后再划分训练集/测试集，会导致特征选择过程引入了未来信息，造成过拟合。正确的做法是：仅在训练集上进行特征选择，然后将选定的特征子集应用于测试集。
3.3 特征缩放：统一量纲，加速收敛
特征缩放是将不同量纲、不同取值范围的特征转换到同一尺度，避免量纲差异对模型训练产生不利影响。在额度定价模型中，特征缩放对以下模型尤为重要：
- 线性模型（逻辑回归、线性回归）：特征尺度差异会导致梯度下降收敛缓慢，且系数大小无法直接反映特征重要性。
- 距离模型（KNN、K-Means、SVM）：距离计算受量纲影响，大尺度特征会主导距离度量。
- 神经网络：输入层特征尺度不一致会导致训练不稳定、收敛慢。
两种最常用的特征缩放方法：
| 方法 | 公式 | 输出范围 | 适用场景 | 对异常值敏感度 |
|---|---|---|---|---|
| 标准化（Z-score） | z = (x - μ) / σ | 均值0，标准差1 | 数据近似正态分布；线性模型、神经网络 | 中等 |
| 归一化（Min-Max） | x' = (x - min) / (max - min) | [0, 1] | 数据有明确边界；距离模型、图像处理 | 高（异常值会压缩正常值范围） |
选择建议：对于额度定价模型中的收入、负债等长尾分布特征，建议先进行对数变换或Box-Cox变换使其接近正态分布，再进行标准化。对于年龄、授信额度等分布相对均匀的特征，可直接使用标准化或归一化。
3.4 定价模型中的特征工程实践流程
将特征构造、特征选择与特征缩放整合到统一的流程中，是构建高效定价模型的关键。以下是一个经过验证的实践步骤：
- 数据探索与清洗：处理缺失值、异常值，理解各字段的业务含义与分布特征。
- 特征构造：基于业务规则与数据分析，生成候选特征池（通常为原始特征的3-5倍）。
- 初筛（过滤法）：使用IV值、方差阈值、缺失率等指标快速剔除无效特征，保留Top 100-200个特征。
- 精筛（嵌入法/包裹法）：在训练集上使用Lasso或树模型特征重要性进一步筛选，保留Top 30-50个特征。
- 特征缩放：根据特征分布选择标准化或归一化，在训练集上拟合缩放器并转换训练集与测试集。
- 验证与迭代：通过交叉验证评估特征子集的稳定性，结合业务解释性调整特征集合。
关键指标参考：在额度定价模型中，特征工程完成后建议检查以下指标：特征间最大相关系数 < 0.8（避免共线性）、单个特征IV值 > 0.02（保证区分度）、特征数量不超过样本量的1/10（防止过拟合）。
通过系统化的特征工程，额度定价模型能够更准确地捕捉用户风险特征，实现更精细化的额度定价，在控制风险的同时最大化业务收益。