3. LightGBM 模型训练基础：数据加载、特征工程、模型训练与保存

本章是构建实时推理链路的第一块基石。你将掌握从原始数据到可部署 LightGBM 模型的标准流程：数据加载与校验、特征工程处理、模型训练调参与模型序列化保存。理解这些基础操作，是后续实现高性能实时推理的关键前提。

3.1 数据加载与初步探索

LightGBM 原生支持 Dataset 数据结构，它针对梯度提升树进行了内存与计算优化。推荐使用 lgb.Dataset() 封装训练与验证数据。

3.1.1 数据加载方式对比

加载方式	适用场景	注意事项
Pandas DataFrame + lgb.Dataset()	中小型数据（内存可容纳）	需提前处理缺失值与数据类型
NumPy ndarray + lgb.Dataset()	已预处理好的数值矩阵	无法直接传递特征名
LightGBM 原生文件格式（libsvm / tsv）	大规模稀疏数据	需提前转换为指定格式

import pandas as pd
import lightgbm as lgb
from sklearn.model_selection import train_test_split

# 1. 加载原始数据
df = pd.read_csv('transaction_data.csv')

# 2. 划分训练集与验证集
X = df.drop('target', axis=1)
y = df['target']
X_train, X_val, y_train, y_val = train_test_split(
    X, y, test_size=0.2, random_state=42
)

# 3. 构建 LightGBM Dataset
train_data = lgb.Dataset(X_train, label=y_train)
val_data = lgb.Dataset(X_val, label=y_val, reference=train_data)

3.2 特征工程要点

特征工程直接影响模型效果上限。在实时推理链路中，特征工程需兼顾效果与计算开销，避免引入高延迟操作。

3.2.1 常见特征处理策略

• 数值特征： 标准化（Z-score）或分箱（Bucketize），LightGBM 对单调变换不敏感，但分箱可提升对异常值的鲁棒性。
• 类别特征： 直接传入 categorical_feature 参数，由 LightGBM 内部处理（基于梯度统计的 one-hot 替代方案），无需手动独热编码。
• 时间特征： 提取小时、星期、是否为节假日等周期性特征，避免直接使用时间戳。
• 交叉特征： 使用 lgb.Dataset 的 feature_name 与 categorical_feature 配合，或提前在 DataFrame 中构造。

3.2.2 特征工程流程示意

3.3 模型训练与参数调优

LightGBM 提供两种训练接口：lgb.train()（底层 API）与 lgb.LGBMClassifier() / lgb.LGBMRegressor()（sklearn 兼容 API）。实时推理链路推荐使用原生 API，便于精细控制。

3.3.1 核心参数速查

参数	说明	推荐值（分类）	推荐值（回归）
objective	任务目标	binary / multiclass	regression / rmse
metric	评估指标	auc / binary_logloss	rmse / mae
boosting_type	提升类型	gbdt（默认）	gbdt（默认）
num_leaves	每棵树叶子数	31（默认）	31（默认）
learning_rate	学习率	0.1（默认）	0.1（默认）
feature_fraction	特征采样比例	0.8	0.8
early_stopping_rounds	早停轮数	50	50

3.3.2 训练代码示例

# 参数配置
params = {
    'objective': 'binary',
    'metric': 'auc',
    'boosting_type': 'gbdt',
    'num_leaves': 31,
    'learning_rate': 0.05,
    'feature_fraction': 0.8,
    'bagging_fraction': 0.8,
    'bagging_freq': 5,
    'verbose': 0,
    'seed': 42
}

# 训练模型（带早停）
model = lgb.train(
    params,
    train_data,
    valid_sets=[val_data],
    num_boost_round=1000,
    callbacks=[lgb.early_stopping(stopping_rounds=50),
               lgb.log_evaluation(period=50)]
)

# 输出最佳迭代次数
print(f"最佳迭代轮数: {model.best_iteration}")
print(f"最佳验证集 AUC: {model.best_score['valid_0']['auc']:.4f}")

3.4 模型保存与加载

实时推理链路要求模型文件轻量、加载快速。LightGBM 原生 .txt 格式（可读性强）与 .pkl 格式（含完整 Python 对象）均可使用。推荐使用原生 .txt 格式，兼容性最佳。

3.4.1 保存方式对比

保存方式	文件大小	加载速度	跨语言兼容	推荐场景
model.save_model('model.txt')	较小	快	是（C/R/Python/Java）	生产部署、跨平台
pickle.dump(model, f)	较大	中等	仅 Python	实验阶段、快速迭代
joblib.dump(model, 'model.joblib')	中等	快	仅 Python	sklearn 管道集成

3.4.2 保存与加载代码

# 保存模型（原生格式）
model.save_model('lgb_model.txt')

# 加载模型（原生格式）
loaded_model = lgb.Booster(model_file='lgb_model.txt')

# 验证加载正确性
preds = loaded_model.predict(X_val)
print(f"加载模型预测形状: {preds.shape}")

3.5 完整训练流程总结

完成以上步骤后，你将获得一个经过验证、可序列化的 LightGBM 模型文件。下一阶段将以此模型为基础，构建实时推理的 Serving 服务。