2. 信用评分模型基础:逻辑回归、决策树、XGBoost 在信用评分中的应用对比
信用评分模型的核心任务是根据申请人的历史行为、人口统计特征等数据,预测其未来发生违约(Default)的概率。在低延迟推理场景下,模型的选择直接影响响应速度、可解释性与业务效果。本章从算法原理、评分卡构建、推理效率三个维度,对比逻辑回归、决策树与 XGBoost 在信用评分中的适用性。
2.1 三种模型的核心原理与评分逻辑
| 模型 | 数学/结构基础 | 输出形式 | 评分卡转换方式 |
|---|---|---|---|
| 逻辑回归 | 线性决策边界 + Sigmoid 函数 | 违约概率 p ∈ [0,1] | WOE 编码后,系数直接映射为分数偏移 |
| 决策树 | 基于信息增益/基尼系数的树形分裂 | 叶子节点违约率 | 每条路径对应一个分数段,可生成规则集 |
| XGBoost | 梯度提升 + 二阶泰勒展开 + 正则化 | 多棵树叶子得分之和 → 概率 | 需借助 SHAP 或分箱近似,无原生线性映射 |
业务提示: 在金融监管严格的场景(如巴塞尔协议 III)中,逻辑回归因其可解释性强、评分卡标准化程度高,仍是主流选择。XGBoost 更适合作为高性能辅助模型,用于拒绝推断或次级评分。
2.2 模型对比:可解释性、推理速度与 AUC
下表从三个关键维度对比三种模型在信用评分中的实际表现:
| 维度 | 逻辑回归 | 决策树 | XGBoost |
|---|---|---|---|
| 可解释性 | ★★★★★ 系数直观,支持 WOE 映射 | ★★★★☆ 规则透明,但深度大时难理解 | ★★☆☆☆ 需依赖 SHAP/PDP 解释 |
| 单次推理延迟 | < 10 μs(纯矩阵乘法) | < 50 μs(树深度 ≤ 8) | < 200 μs(100 棵树,深度 6) |
| 典型 AUC 范围 | 0.70 ~ 0.78 | 0.68 ~ 0.75 | 0.78 ~ 0.88 |
| 特征工程需求 | 高(需分箱、WOE、IV 筛选) | 低(可处理缺失与非线性) | 中(需处理异常值,支持自动分裂) |
| 过拟合风险 | 低(L1/L2 正则化) | 高(需剪枝) | 中(早停、学习率、正则项控制) |
低延迟选型建议: 若推理延迟要求 < 50 μs 且必须通过监管审计,优先选择逻辑回归;若允许 200 μs 以内且追求更高区分度,XGBoost 是更优选择;决策树通常作为集成模型的基学习器,单独使用场景较少。
2.3 信用评分模型推理链路对比图
下图展示了三种模型在信用评分推理链路中的核心差异:逻辑回归通过线性加权直接输出分数;决策树通过条件分支到达叶子节点;XGBoost 则累加多棵树的叶子得分。
2.4 实际案例:逻辑回归评分卡构建流程
以下是一个典型的逻辑回归评分卡构建步骤,适用于低延迟推理场景:
- 数据分箱与 WOE 编码: 对连续变量(如年龄、收入)进行等频或最优分箱,计算每个分箱的 WOE(Weight of Evidence)值。
- IV 特征筛选: 计算每个变量的 IV(Information Value),保留 IV > 0.02 的变量。
- 逻辑回归训练: 使用 WOE 值作为输入特征,训练 L2 正则化逻辑回归模型。
- 评分卡刻度转换: 设定基准分数(如 600 分)与 PDO(Point-to-Double Odds),将回归系数线性映射为分数。
- 推理部署: 将 WOE 映射表与系数固化,推理时仅需查表 + 矩阵乘法,延迟 < 10 μs。
避坑提醒: 逻辑回归对特征共线性敏感,WOE 编码后需检查变量间相关性(VIF < 5)。若直接使用原始数值特征而非 WOE,模型非线性拟合能力会显著下降。
2.5 XGBoost 在信用评分中的优化技巧
若选择 XGBoost 作为评分模型,以下技巧可提升推理效率并保持区分度:
- 限制树深度: max_depth 控制在 4~6,避免过拟合同时降低推理计算量。
- 使用直方图算法: tree_method='hist' 可加速训练,且推理时无需预排序。
- 早停策略: 设置 early_stopping_rounds=10,防止无效迭代增加模型大小。
- 模型剪枝: 删除叶子权重绝对值小于 0.01 的节点,减少树规模。
- 特征压缩: 使用特征重要性筛选 Top 20~30 特征,降低输入维度。
2.6 三种模型选型决策表
| 业务场景 | 推荐模型 | 核心理由 |
|---|---|---|
| 监管审计严格、需解释每个分数 | 逻辑回归 | 系数透明,评分卡标准化 |
| 快速拒绝规则、高吞吐量 | 决策树(浅树) | 规则可读,延迟低 |
| 追求最高 AUC、可接受 200 μs 延迟 | XGBoost | 非线性拟合强,支持正则化 |
| 混合策略:主模型 + 辅助模型 | 逻辑回归 + XGBoost | 主模型可解释,辅助模型提升召回 |