VIP20

本课程属于：031-反洗钱监测在线推理链路 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

LightGBM模型在线推理链路详解

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

LightGBM模型在线推理的定义 · 应用场景（推荐系统 · 风控

课程导论LightGBM

LightGBM模型基础回顾

决策树与梯度提升树原理 · Leaf-wise树生长策略 · 直方图算法

LightGBM模型基础回顾

模型训练与导出

Python训练LightGBM模型 · 模型保存为txt/matlab/bi… · 模型文件结构解析

模型训练导出

在线推理架构总览

离线训练与在线推理的差异 · 在线推理链路核心组件（特征工程 · 模型加载

线推理架构总览离线训练

特征工程在线化

离线特征与在线特征对齐 · 特征存储（Redis/Feature… · 特征实时计算（Flink/Spark…

特征工程线化

模型加载与热更新

模型文件存储（OSS/HDFS） · 模型版本管理 · 热更新机制（蓝绿部署

模型加载热更新

推理引擎选型

原生LightGBM C API · ONNX Runtime · Treelite

推理引擎选型LightGBM

基于C API的推理实现

C API初始化 · 加载模型 · 设置预测参数

基于Python Flask的轻量级推理服务

Flask应用搭建 · 模型加载为全局变量 · RESTful API设计

基于gRPC的高性能推理服务

Protobuf定义 · gRPC Server实现 · 流式推理

模型量化与压缩

浮点模型转整型模型 · 权重剪枝 · 知识蒸馏对推理速度的影响

模型量化压缩

推理请求预处理

特征缺失值填充 · 类别特征编码（LabelEncode… · 特征归一化

推理请求预处理特征缺失值填充

推理请求后处理

原始分数转概率（Sigmoid/So… · 阈值调整 · 排序与Top-K截断

推理请求后处理Sigmoid/So

批处理与缓存策略

请求合并批处理 · 特征缓存（LRU Cache） · 结果缓存（Redis）

批处理缓存策略

异步推理与消息队列

异步架构设计（Kafka/Rabbi… · 请求-响应模式 · 回调机制

异步推理消息队列

推理服务容器化部署

Docker镜像构建 · 依赖管理（libgomp · libLightGBM）

推理服务容器化部…Docker

推理服务弹性伸缩

基于CPU/内存/请求量的HPA · Pod资源限制与请求 · 冷启动优化

推理服务弹性伸缩CPU

推理链路监控

Prometheus指标暴露（QPS · 延迟P99 · 错误率）

推理链路监控Prometheus

推理链路可观测性

分布式追踪（Jaeger/Zipki… · Span标签 · Trace与请求ID关联

推理链路可观测性Jaeger/Zipki

模型A/B测试与灰度发布

流量路由（Istio/Service… · 模型版本对比 · 实验分组

推理服务安全

模型加密存储 · HTTPS/TLS · 请求认证（JWT/API Key）

推理服务安全模型加密存储

边缘端推理

模型轻量化（TinyML） · 边缘设备部署（ARM/树莓派） · 离线推理

边缘端推理TinyML

多模型组合推理

模型集成（Ensemble） · DAG推理流水线 · 特征共享

多模型组合推理Ensemble

推理性能调优

CPU绑定（taskset） · NUMA感知 · 内存池复用

推理性能调优CPU

常见问题与排错

模型加载失败 · 特征不匹配 · 内存泄漏

常见问题排错

实时风控推理链路：特征实时计算 · 模型加载 · 决策引擎

案例实战实时风控推理链路

推荐系统在线推理：用户特征拼接 · 物品特征检索 · 模型预测

案例实战推荐系统

广告点击率预估：请求预处理 · 模型批量推理 · 出价策略

案例实战广告点击率预估

在线推理与LLM结合 · 自适应模型更新 · Serverless推理

未来趋势LLM

课程总结与最佳实践

链路设计原则 · 性能优化清单 · 监控告警体系

课程总结最佳实践