3. 特征工程基础：特征分类、重要性、分布与统计量

在构建 LightGBM 模型之前，必须对原始特征进行系统化的分类与诊断。特征的质量直接决定了模型的上限，而特征工程正是将原始数据转化为高质量特征的过程。本节将围绕特征的三大分类体系、特征重要性的评估方法以及特征分布与统计量的监控手段展开，为后续的哨兵联动监控打下基础。

3.1 特征分类体系

根据数据的内在属性与建模需求，特征通常被划分为三大类：数值型、类别型和时序型。每种类型在 LightGBM 中的处理方式和监控要点均不同。

3.2 特征重要性评估

特征重要性用于衡量每个特征对模型预测的贡献程度。LightGBM 提供三种内置的重要性计算方式，适用于不同的监控场景。

• Gain（信息增益）：特征在树分裂时带来的平均信息增益。反映特征对模型精度的实际贡献，是哨兵监控的首选指标。
• Split（分裂次数）：特征被选为分裂节点的总次数。反映特征的使用频率，但对噪声特征敏感。
• Cover（覆盖样本数）：特征分裂节点所覆盖的训练样本数量。反映特征的泛化广度。

# LightGBM 特征重要性提取示例
import lightgbm as lgb

model = lgb.LGBMClassifier()
model.fit(X_train, y_train)

# 获取三种重要性
importance_gain = model.booster_.feature_importance(importance_type='gain')
importance_split = model.booster_.feature_importance(importance_type='split')
importance_cover = model.booster_.feature_importance(importance_type='cover')

# 输出特征重要性排序
feature_names = X_train.columns
for name, gain, split, cover in zip(feature_names, importance_gain, importance_split, importance_cover):
    print(f"{name}: Gain={gain:.4f}, Split={split}, Cover={cover}")

3.3 特征分布与统计量

特征分布是数据质量的晴雨表。通过持续监控特征的统计量，可以及时发现数据漂移、异常注入或采集故障。以下是最核心的监控统计量体系。

3.3.1 数值型特征统计量

3.3.2 类别型特征统计量

• 类别基数（Cardinality）：唯一类别数量。监控新类别出现或类别合并。
• 频次分布（Frequency Distribution）：每个类别的出现次数。监控头部类别占比变化。
• 熵（Entropy）：H = -Σ p_i * log(p_i)。监控分布均匀性变化。
• 缺失率：与数值型相同，监控空值比例。

3.3.3 时序型特征统计量

• 时间跨度（Time Range）：最小与最大时间戳的差值。
• 事件密度（Event Density）：单位时间内的记录数。
• 滞后自相关（Lag Autocorrelation）：特征与其滞后版本的相关性，监控时序结构是否保持。

3.4 特征质量监控架构

下图展示了特征质量监控的完整流程，从特征分类、统计量计算到哨兵告警的闭环链路。

3.5 特征分布可视化与监控

除了数值统计量，分布形状的可视化对比也是哨兵监控的重要手段。下图展示了训练集与生产集之间特征分布的对比逻辑。

3.6 特征质量监控清单

在实际项目中，建议按照以下清单对每个特征进行初始化登记与持续监控。

1. 特征注册：为每个特征分配唯一 ID，记录特征名称、类型、来源表、业务含义。
2. 基准线计算：基于训练集计算所有统计量，存入基准线库。
3. 监控阈值设定：根据业务容忍度，为每个统计量设定告警阈值（参考 3.3 节表格）。
4. 周期性检测：每天/每小时计算生产集统计量，与基准线对比。
5. 告警触发：当偏差超过阈值时，哨兵系统发出告警，并附带偏差详情。
6. 人工研判：数据科学家根据告警内容，判断是数据质量问题还是业务漂移，并采取相应措施。