2. 信用评分模型基础:逻辑回归、决策树、XGBoost 在信用评分中的应用对比

信用评分模型的核心任务是根据申请人的历史行为、人口统计特征等数据,预测其未来发生违约(Default)的概率。在低延迟推理场景下,模型的选择直接影响响应速度、可解释性与业务效果。本章从算法原理、评分卡构建、推理效率三个维度,对比逻辑回归、决策树与 XGBoost 在信用评分中的适用性。

2.1 三种模型的核心原理与评分逻辑

模型 数学/结构基础 输出形式 评分卡转换方式
逻辑回归 线性决策边界 + Sigmoid 函数 违约概率 p ∈ [0,1] WOE 编码后,系数直接映射为分数偏移
决策树 基于信息增益/基尼系数的树形分裂 叶子节点违约率 每条路径对应一个分数段,可生成规则集
XGBoost 梯度提升 + 二阶泰勒展开 + 正则化 多棵树叶子得分之和 → 概率 需借助 SHAP 或分箱近似,无原生线性映射
业务提示: 在金融监管严格的场景(如巴塞尔协议 III)中,逻辑回归因其可解释性强、评分卡标准化程度高,仍是主流选择。XGBoost 更适合作为高性能辅助模型,用于拒绝推断或次级评分。

2.2 模型对比:可解释性、推理速度与 AUC

下表从三个关键维度对比三种模型在信用评分中的实际表现:

维度 逻辑回归 决策树 XGBoost
可解释性 ★★★★★ 系数直观,支持 WOE 映射 ★★★★☆ 规则透明,但深度大时难理解 ★★☆☆☆ 需依赖 SHAP/PDP 解释
单次推理延迟 < 10 μs(纯矩阵乘法) < 50 μs(树深度 ≤ 8) < 200 μs(100 棵树,深度 6)
典型 AUC 范围 0.70 ~ 0.78 0.68 ~ 0.75 0.78 ~ 0.88
特征工程需求 高(需分箱、WOE、IV 筛选) 低(可处理缺失与非线性) 中(需处理异常值,支持自动分裂)
过拟合风险 低(L1/L2 正则化) 高(需剪枝) 中(早停、学习率、正则项控制)
低延迟选型建议: 若推理延迟要求 < 50 μs 且必须通过监管审计,优先选择逻辑回归;若允许 200 μs 以内且追求更高区分度,XGBoost 是更优选择;决策树通常作为集成模型的基学习器,单独使用场景较少。

2.3 信用评分模型推理链路对比图

下图展示了三种模型在信用评分推理链路中的核心差异:逻辑回归通过线性加权直接输出分数;决策树通过条件分支到达叶子节点;XGBoost 则累加多棵树的叶子得分。

三种信用评分模型推理链路对比 输入特征向量 逻辑回归 线性加权 + Sigmoid 决策树 条件分支 → 叶子节点 XGBoost 多棵树叶子得分累加 WOE 系数 → 分数偏移 路径匹配 → 分数段 叶子得分求和 → 概率 信用评分(线性) 信用评分(规则) 信用评分(集成) 逻辑回归推理延迟最低,XGBoost 区分度最高,决策树可解释性居中

2.4 实际案例:逻辑回归评分卡构建流程

以下是一个典型的逻辑回归评分卡构建步骤,适用于低延迟推理场景:

  1. 数据分箱与 WOE 编码: 对连续变量(如年龄、收入)进行等频或最优分箱,计算每个分箱的 WOE(Weight of Evidence)值。
  2. IV 特征筛选: 计算每个变量的 IV(Information Value),保留 IV > 0.02 的变量。
  3. 逻辑回归训练: 使用 WOE 值作为输入特征,训练 L2 正则化逻辑回归模型。
  4. 评分卡刻度转换: 设定基准分数(如 600 分)与 PDO(Point-to-Double Odds),将回归系数线性映射为分数。
  5. 推理部署: 将 WOE 映射表与系数固化,推理时仅需查表 + 矩阵乘法,延迟 < 10 μs。
避坑提醒: 逻辑回归对特征共线性敏感,WOE 编码后需检查变量间相关性(VIF < 5)。若直接使用原始数值特征而非 WOE,模型非线性拟合能力会显著下降。

2.5 XGBoost 在信用评分中的优化技巧

若选择 XGBoost 作为评分模型,以下技巧可提升推理效率并保持区分度:

  • 限制树深度: max_depth 控制在 4~6,避免过拟合同时降低推理计算量。
  • 使用直方图算法: tree_method='hist' 可加速训练,且推理时无需预排序。
  • 早停策略: 设置 early_stopping_rounds=10,防止无效迭代增加模型大小。
  • 模型剪枝: 删除叶子权重绝对值小于 0.01 的节点,减少树规模。
  • 特征压缩: 使用特征重要性筛选 Top 20~30 特征,降低输入维度。

2.6 三种模型选型决策表

业务场景 推荐模型 核心理由
监管审计严格、需解释每个分数 逻辑回归 系数透明,评分卡标准化
快速拒绝规则、高吞吐量 决策树(浅树) 规则可读,延迟低
追求最高 AUC、可接受 200 μs 延迟 XGBoost 非线性拟合强,支持正则化
混合策略:主模型 + 辅助模型 逻辑回归 + XGBoost 主模型可解释,辅助模型提升召回