3. GLM的局限性:线性假设约束、交互项手工构造、高维稀疏数据表现不佳

广义线性模型(GLM)在精算保费定价中曾长期占据主导地位,但其核心假设与建模机制在面对现代保险数据时暴露出三大结构性缺陷。理解这些局限性,是引入XGBoost等机器学习模型的关键动因。

3.1 线性假设约束:特征与目标的关系被强制“拉直”

GLM通过链接函数将线性预测器与目标分布连接,但核心仍为线性组合:

η = β₀ + β₁x₁ + β₂x₂ + ... + βₚxₚ
μ = g⁻¹(η)

这一结构隐含了边际效应恒定的强假设:当某个特征xⱼ增加一个单位时,对线性预测器η的影响固定为βⱼ,不随其他特征取值或xⱼ自身水平变化。然而,保险数据中的真实关系往往是非线性的:

  • 年龄与索赔频率:年轻驾驶员风险高,中年驾驶员风险低,老年驾驶员风险再次上升——呈U型曲线,GLM需手动加入x²项才能近似。
  • 车辆价值与损失金额:高价值车辆的保费增长并非线性,超过某一阈值后边际风险可能急剧上升。
  • 免赔额与索赔倾向:免赔额从0提高到500元时行为变化显著,但从5000元提高到5500元时几乎无影响。
精算实务提示:GLM用户常通过加入多项式项(x²、x³)或分段线性(样条基函数)来缓解线性约束,但这需要先验知识且增加过拟合风险。XGBoost的树模型天然捕捉非线性,无需手动指定函数形式。
GLM线性假设 vs 真实非线性关系(年龄-索赔频率) GLM 线性拟合 年龄 索赔频率 线性假设 真实 U 型关系 年龄 索赔频率 U型曲线 GLM 强制线性拟合(红色虚线)严重偏离真实 U 型模式(绿色实线),导致年轻和老年驾驶员保费被低估

3.2 交互项手工构造:维度爆炸与领域知识瓶颈

在GLM中,特征之间的交互效应无法自动学习,必须由建模者手动创建交互项(如x₁ × x₂)。这一过程面临三重困境:

困境 说明 精算实例
组合爆炸 p个特征两两交互产生C(p,2)项,三阶交互产生C(p,3)项,特征维度迅速膨胀 50个风险因子 → 两两交互1225项,三阶交互19600项
领域知识依赖 建模者必须事先知道哪些特征组合存在交互效应,否则会遗漏关键模式 “年龄×驾驶里程”交互显著,但“年龄×车辆颜色”几乎无意义
可解释性下降 大量手工交互项使模型系数表变得冗长,精算师难以逐一审查 一个含200个交互项的GLM,费率表解读工作量剧增
XGBoost 优势:树模型在每次分裂时自动选择最优特征及分割点,高阶交互效应通过树的分支结构自然捕捉,无需人工枚举。例如,年龄<25且驾驶里程>20000km的叶子节点自动形成交互规则。

3.3 高维稀疏数据表现不佳:独热编码的“维度诅咒”

保险数据中大量分类特征(车型、地区、职业、品牌等)经独热编码后产生高维稀疏矩阵。GLM在此场景下表现脆弱:

  • 参数估计不稳定:稀疏类别中样本量极少,对应系数的最大似然估计方差极大,甚至无法收敛。
  • 过拟合风险高:每个稀疏类别独立估计一个参数,模型容量随类别数线性增长,容易记住噪声。
  • 正则化效果有限:L1/L2正则化虽可压缩系数,但对极度稀疏的类别仍难以区分信号与噪声。
典型场景:某车险数据集包含3000个车型代码,其中1500个车型出现次数≤5次。GLM对这1500个车型的系数估计几乎完全依赖先验分布或分组合并,信息损失严重。
高维稀疏数据:GLM 参数爆炸 vs XGBoost 树结构 GLM:每个类别一个独立参数 车型A 车型B 车型C ... 车型N β₁ β₂ β₃ ... βₙ 问题:N 个参数,稀疏类别方差大 样本量少的类别系数不可靠 需手工合并或使用先验 XGBoost:树分裂自动分组 车型分组 高频车型 低频车型 运动型 家用型 优势:树分裂自动合并稀疏类别 低频车型共享同一叶子节点 无需手工分组,数据驱动

3.4 三大局限性的综合影响与应对思路

下表总结了GLM三大局限性在精算保费定价中的具体表现及XGBoost的改进方向:

局限性 GLM 表现 精算影响 XGBoost 改进
线性假设约束 需手动加入多项式、样条基函数 模型偏差大,费率曲线不贴合实际 树模型自动捕捉非线性模式
交互项手工构造 人工枚举交互项,维度爆炸 遗漏关键交互,费率结构不完整 树分裂自动生成高阶交互规则
高维稀疏数据 参数估计不稳定,过拟合严重 稀疏类别定价失真,缺乏稳健性 树结构自动合并稀疏类别,正则化内置
精算建模策略:在实践中,GLM并未被完全取代。许多精算团队采用“GLM+XGBoost”混合方案——GLM负责基准费率结构和可解释性部分,XGBoost捕捉GLM残差中的非线性与交互模式,实现精度与可解释性的平衡。