2. LightGBM 核心原理回顾：直方图算法、Leaf-wise 生长策略、GOSS 与 EFB
在深入特征稳定性分析之前，必须牢固掌握 LightGBM 区别于传统 GBDT 的四大核心加速与精度优化机制。这些机制直接决定了模型对特征分布变化的敏感程度，是后续偏移诊断的理论基础。
2.1 直方图算法（Histogram-based Algorithm）
传统 GBDT 在寻找最佳分裂点时，需要遍历所有特征的所有取值（预排序），计算复杂度为 O(#data × #feature)。LightGBM 将连续浮点特征离散化为 k 个整数桶（bin），构建直方图，将复杂度降至 O(k × #feature)。
核心优势：内存占用从 O(#data × #feature × 4 bytes) 降至 O(k × #feature × 1 byte)；计算代价与数据量解耦，仅与桶数 k 相关（通常 k=255）。
稳定性影响：直方图的分桶操作天然具有抗噪性——微小波动不会改变样本所在桶，从而降低特征轻微偏移对分裂点的影响。但若分桶边界设置不当（如等频分桶导致边界样本集中），可能掩盖早期偏移信号。
2.2 Leaf-wise 生长策略（Best-first）
不同于 XGBoost 的 Level-wise 按层生长，LightGBM 每次只分裂增益最大的叶子节点，形成非对称树结构。
| 对比维度 | Level-wise（XGBoost） | Leaf-wise（LightGBM） |
|---|---|---|
| 生长方式 | 同层所有节点同时分裂 | 每次只分裂增益最大的叶子 |
| 树结构 | 平衡树，深度均匀 | 非对称树，部分路径更深 |
| 计算效率 | 冗余计算多，效率较低 | 收敛快，同等精度下叶子数更少 |
| 过拟合风险 | 较低（天然正则化） | 较高，需限制 max_depth / num_leaves |
| 对特征偏移敏感度 | 中等（各层均匀暴露特征） | 高（深层叶子依赖特定特征组合） |
偏移风险提示：Leaf-wise 生长策略使得模型更容易在少数深层叶子上形成高度特化的决策路径。当这些路径依赖的特征发生分布偏移时，模型输出可能出现剧烈波动。额度模型中，建议将
num_leaves 控制在 31 以下，并配合 min_child_samples 约束叶子最小样本数。
2.3 梯度单边采样（GOSS）
GOSS 是一种基于梯度的采样方法，保留大梯度样本（训练不足），随机采样小梯度样本（训练充分），同时通过权重修正保持数据分布。
权重修正公式：小梯度样本的权重放大为
(1 - a) / b，确保梯度期望无偏。默认参数 top_rate=0.2，other_rate=0.1，即保留 20% 大梯度 + 从剩余 80% 中随机采样 10%。
稳定性含义：GOSS 放大了大梯度样本（通常是边界样本或异常样本）在训练中的影响力。当这些样本的特征分布发生偏移时，模型会更快地"记住"偏移模式，导致 PSI 快速上升。在额度模型中，建议对 GOSS 采样率进行敏感性测试。
2.4 互斥特征捆绑（EFB）
EFB 将高维稀疏特征中互斥（不同时为非零值）的特征捆绑为单一特征，进一步降低特征维度。
| 步骤 | 操作 | 说明 |
|---|---|---|
| 1 | 构建特征冲突图 | 节点为特征，边表示两特征同时非零的样本比例超过阈值 |
| 2 | 贪心图着色 | 用最少颜色（捆绑组）给图上色，同色特征可捆绑 |
| 3 | 特征合并 | 为每个捆绑组内的特征添加偏移量（如 bin 偏移），合并为单一直方图 |
| 4 | 分裂点还原 | 在捆绑特征上分裂时，根据偏移量反解出原始特征和分裂值 |
偏移风险提示：EFB 捆绑后的特征失去了原始特征的独立可解释性。当捆绑组内某个特征发生偏移时，模型无法单独调整该特征的分裂权重，可能导致整体决策路径偏移。在额度模型中，建议对 EFB 捆绑组进行稳定性监控，若某捆绑组整体 PSI 异常，需解绑后单独分析。
2.5 四大机制对特征稳定性的综合影响
实践建议：在额度模型上线后，建议建立四维监控看板：① 直方图分桶分布 PSI；② 各叶子节点样本覆盖率变化；③ GOSS 采样梯度分布漂移；④ EFB 捆绑组整体 PSI。任何一维出现异常，都应触发模型重训或特征回溯分析。