1. 课程导论：LightGBM模型在线推理的定义、应用场景与课程目标

1.1 什么是LightGBM模型在线推理？

在机器学习生产链路中，在线推理（Online Inference）指模型在接收到实时请求后，在毫秒级时间内完成特征计算、模型打分并返回预测结果的过程。与离线批量预测不同，在线推理直接服务于用户触发的每一次交互，对延迟、吞吐和稳定性有极高要求。

LightGBM 作为梯度提升决策树（GBDT）框架的杰出代表，凭借其高效的直方图算法、Leaf-wise树生长策略和原生类别特征支持，在结构化数据的分类、回归、排序任务中表现优异。将LightGBM模型部署到在线推理链路中，意味着需要解决以下核心问题：

• 模型序列化与加载：将训练好的模型文件（.txt / .pkl / .model）快速加载到推理服务内存。
• 特征工程在线化：将离线训练时的特征处理逻辑（缺失值填充、类别编码、特征交叉）移植到实时请求管道。
• 低延迟预测：单次推理延迟通常要求 < 20ms，高并发场景下需支持数千QPS。
• 服务化封装：通过RESTful API、gRPC或消息队列对外暴露推理能力。

1.2 核心应用场景

LightGBM在线推理在工业界已覆盖多个高价值场景，以下三个方向最具代表性：

1.2.1 推荐系统

• 召回排序：在召回阶段使用LightGBM对候选物品进行粗排，过滤掉大部分不相关物品；在精排阶段作为CTR/CVR预估模型的核心组件。
• 特征交叉能力：LightGBM自动学习特征间的高阶非线性交互，替代部分人工特征工程。
• 实时个性化：结合用户实时行为序列特征，在数百毫秒内完成个性化推荐打分。

1.2.2 风控系统

• 实时反欺诈：在支付、登录、交易等环节，LightGBM模型对每笔请求进行风险评分，拦截异常交易。
• 可解释性优势：树模型天然支持特征重要性输出，便于风控策略人员定位风险因子。
• 冷启动友好：在样本量较少的场景下，LightGBM的泛化能力优于深度模型。

1.2.3 实时广告竞价

• CTR/CVR预估：广告请求到达时，LightGBM模型实时计算点击率和转化率，用于出价决策。
• 预算控制：结合模型输出的概率值，动态调整广告投放节奏和出价策略。
• 流量筛选：在广告曝光前过滤低价值流量，提升广告ROI。

1.3 课程目标

本课程旨在帮助学员系统掌握LightGBM模型从训练完成到稳定在线服务的完整工程链路。完成本课程后，学员将能够：

1. 理解在线推理架构：掌握在线推理与离线预测的核心差异，熟悉服务化部署的通用模式。
2. 掌握模型导出与加载：学会将LightGBM模型导出为可部署格式，并实现高效加载与热更新。
3. 构建在线特征管道：将离线特征工程逻辑迁移到实时服务中，保证训练与推理特征一致性。
4. 实现高性能推理服务：使用C++ / Python / Java等语言封装LightGBM推理接口，优化延迟与吞吐。
5. 部署与监控：在Kubernetes或传统容器环境中部署推理服务，配置监控告警与AB实验。

1.4 前置知识要求

为获得最佳学习体验，建议学员具备以下基础：

1.5 课程内容概览

本课程共30章，按工程实践路径分为以下五个阶段：