4. 线性模型的可解释性：线性回归与逻辑回归的系数解释、特征重要性分析、置信区间

线性模型（线性回归与逻辑回归）是机器学习中最基础、可解释性最强的模型家族。其核心优势在于：模型参数（系数）具有明确的数学含义，可以直接回答“每个特征如何影响预测结果”。本章将系统讲解线性模型的系数解释方法、特征重要性量化技术以及置信区间的计算与解读。

4.1 线性回归的系数解释

线性回归模型形式为：

y = β₀ + β₁x₁ + β₂x₂ + ... + βₚxₚ + ε

其中 βⱼ 表示在其他特征保持不变的情况下，特征 xⱼ 每增加一个单位，目标变量 y 的平均变化量。这是最直接的“边际效应”解释。

4.2 逻辑回归的系数解释

逻辑回归预测的是事件发生的概率，模型形式为：

log(p/(1-p)) = β₀ + β₁x₁ + β₂x₂ + ... + βₚxₚ

系数 βⱼ 解释为：对数几率（log-odds）的变化量。更直观的方式是使用 优势比（Odds Ratio, OR）：

ORⱼ = exp(βⱼ)

优势比表示特征 xⱼ 每增加一个单位，事件发生的优势（odds）变为原来的 exp(βⱼ) 倍。

4.3 特征重要性分析

在线性模型中，特征重要性可以从多个维度衡量。以下是最常用的三种方法：

1. 标准化系数（Beta 权重）：将所有特征标准化为均值为 0、标准差为 1 后重新拟合模型，得到的系数绝对值可直接比较。
2. t 统计量 / p 值：衡量系数估计的统计显著性，t 统计量绝对值越大（p 值越小），特征越重要。
3. 特征对 R² 的贡献：通过方差分析（ANOVA）或 Shapley 值分解，量化每个特征解释的方差比例。

4.4 置信区间

置信区间（Confidence Interval, CI）量化了系数估计的不确定性。对于线性回归系数 βⱼ，其 (1-α)% 置信区间为：

CI(βⱼ) = βⱼ ± t_{α/2, n-p-1} × SE(βⱼ)

其中 SE(βⱼ) 是系数标准误，t_{α/2, n-p-1} 是 t 分布的临界值。

置信区间的可解释性价值：

• 区间宽度：反映估计精度，宽度越窄说明估计越可靠。
• 是否包含 0：若区间包含 0，则不能拒绝系数为 0 的原假设（统计不显著）。
• 业务决策边界：即使系数统计显著，若置信区间跨越业务可接受阈值，仍需谨慎决策。

4.5 实战案例：房价回归模型解释

以下是一个完整的线性回归模型输出示例，展示如何综合运用系数解释、特征重要性和置信区间进行可解释性分析。

# 模型输出摘要（示例）
=================================================================
                  coef    std err          t      P>|t|    [0.025   0.975]
------------------------------------------------------------------
const          10.2345      1.234      8.294      0.000     7.812   12.657
面积(㎡)        0.5234      0.045     11.631      0.000     0.435    0.612
房龄(年)       -0.0892      0.023     -3.878      0.000    -0.134   -0.044
卧室数          1.8765      0.567      3.309      0.001     0.765    2.988
楼层            0.0345      0.089      0.388      0.698    -0.140    0.209
距地铁站(m)    -0.0021      0.001     -2.100      0.036    -0.004   -0.000
=================================================================
R-squared: 0.842,  Adj. R-squared: 0.839
F-statistic: 267.3,  Prob (F-statistic): 1.23e-85
=================================================================

可解释性分析步骤：

1. 系数方向与大小：面积、卧室数正向影响房价；房龄、距地铁站距离负向影响；楼层影响不显著。
2. 标准化重要性排序：面积（标准化系数 0.52）> 卧室数（0.31）> 房龄（-0.18）> 距地铁站（-0.09）> 楼层（0.02）。
3. 置信区间解读：面积的 95% CI 为 [0.435, 0.612]，不包含 0，且区间较窄，估计可靠；楼层的 CI 包含 0，无法排除无影响的可能性。
4. 业务结论：增加 10㎡ 面积可预期房价上涨约 5.2 万元；房龄每增加 10 年房价下降约 0.89 万元；楼层对房价无显著影响。