3. 逻辑回归模型原理：线性决策边界、Sigmoid 函数、最大似然估计
逻辑回归（Logistic Regression）是额度模型中最经典的二分类算法。尽管名称带有“回归”，它实际用于估计样本属于正类（如“坏客户”）的概率。理解其三大核心支柱——线性决策边界、Sigmoid 函数、最大似然估计——是诊断批次偏移时解释模型行为变化的基础。
3.1 线性决策边界：模型如何划分好坏
逻辑回归在特征空间中用一个线性超平面来分隔正负样本。设特征向量为 x = [x₁, x₂, ..., xₙ]，模型先计算线性加权和：
z = w₀ + w₁·x₁ + w₂·x₂ + ... + wₙ·xₙ其中 w₀ 为偏置项（截距），w₁...wₙ 为特征权重。决策边界由 z = 0 定义：
- z > 0 → 预测为正类（坏客户概率 > 0.5）
- z < 0 → 预测为负类（坏客户概率 < 0.5）
批次偏移诊断要点：当线上样本分布偏移时，若特征权重
w 不变，但特征均值 E[x] 变化，会导致 z 的整体分布平移，从而改变通过率与坏账率。这是逻辑回归批次偏移最直接的数学表现。
3.2 Sigmoid 函数：将线性输出映射为概率
线性加权和 z 的取值范围是 (-∞, +∞)，不能直接作为概率。Sigmoid 函数将其压缩到 (0, 1) 区间：
P(y=1 | x) = σ(z) = 1 / (1 + e⁻ᶻ)Sigmoid 具有以下关键性质：
| z 值 | σ(z) 输出 | 概率含义 |
|---|---|---|
| z → +∞ | → 1.0 | 几乎肯定是坏客户 |
| z = 0 | 0.5 | 决策边界，两类概率相等 |
| z → -∞ | → 0.0 | 几乎肯定是好客户 |
批次偏移中的 Sigmoid 视角：若线上样本的
z 整体增大（例如收入特征均值上升导致权重加权和变大），Sigmoid 输出会整体右移，导致更多样本被判定为“坏客户”，即使其真实风险未变。这种“概率偏移”是批次偏移在模型输出层的直接体现。
3.3 最大似然估计：模型如何学习权重
逻辑回归通过最大似然估计（MLE）来求解最优权重 w。核心思想是：找到一组权重，使得当前训练数据出现的概率最大。
对于单个样本 (xᵢ, yᵢ)，其似然贡献为：
Lᵢ = P(yᵢ | xᵢ) = σ(zᵢ)^yᵢ · (1 - σ(zᵢ))^(1 - yᵢ)对所有样本取对数并求和，得到对数似然函数：
LL(w) = Σᵢ [ yᵢ·log(σ(zᵢ)) + (1 - yᵢ)·log(1 - σ(zᵢ)) ]模型训练等价于最大化 LL(w)，通常使用梯度下降法迭代更新权重：
wⱼ := wⱼ + α · Σᵢ (yᵢ - σ(zᵢ)) · xᵢⱼ其中 α 为学习率，yᵢ - σ(zᵢ) 为预测误差。
批次偏移对 MLE 的影响：当训练集与线上集分布不一致时，MLE 估计出的权重
w 在训练集上最优，但在线上集上可能严重偏离真实似然最大值。这会导致模型在线上表现劣化，表现为 KS 下降、PSI 升高等批次偏移指标异常。
3.4 逻辑回归 vs LightGBM：批次偏移敏感性对比
| 对比维度 | 逻辑回归 | LightGBM |
|---|---|---|
| 决策边界 | 线性（全局单一超平面） | 非线性（多棵树叠加，局部自适应） |
| 对特征偏移的响应 | 整体概率平移，偏移方向可预测 | 局部区域可能剧烈变化，偏移方向难预判 |
| 权重可解释性 | 高（每个特征有明确权重） | 低（特征重要性为统计贡献，非权重） |
| 批次偏移诊断难度 | 低（可直接分析权重 × 特征均值变化） | 高（需借助 SHAP、PDP 等工具） |
课程案例启示：在额度模型批次偏移诊断中，逻辑回归作为“白盒基准”模型，其线性决策边界和 MLE 原理使得偏移根因定位更加直观。LightGBM 虽然精度更高，但偏移诊断需要更复杂的工具链。本课程后续将结合真实数据，展示两种模型在批次偏移下的行为差异。