1. 课程导论:实时特征与模型 Serving 的定义、为什么需要实时链路、课程目标与前置知识

1.1 核心概念定义

在进入实战之前,我们需要统一对两个核心术语的认知:实时特征与模型 Serving。它们是实时推荐、风控、搜索等系统的技术基石。

概念 定义 典型产出
实时特征 从数据产生到特征就绪的时间窗口在秒级(通常 < 5s)的特征数据。包含实时统计特征(如最近 5 分钟点击次数)、实时序列特征(如最近 10 条行为序列)、实时交叉特征等。 用户实时行为画像、物品实时热度分、上下文实时环境特征
模型 Serving 将训练好的机器学习模型部署到生产环境,对外提供低延迟、高并发的推理预测服务的过程。Serving 层负责加载模型、接收特征请求、执行推理并返回预测结果。 推理 API 接口、模型版本管理、特征-模型联合调用链路
关键区分:实时特征生产关注“数据如何快速变成特征向量”,模型 Serving 关注“特征向量如何快速变成预测分数”。两者在实时链路中紧密耦合,但职责分离。

1.2 为什么需要实时链路?

传统离线 T+1 特征与模型更新方式,在以下场景中已无法满足业务需求:

  • 用户行为快速变化:用户刚点击了 A 商品,下一秒的推荐列表必须立即排除或降权 A,否则体验断裂。
  • 对抗性环境:风控场景中,黑产在秒级内变换攻击模式,离线特征无法捕捉实时行为模式。
  • 业务指标敏感:电商大促、直播秒杀场景下,物品热度在分钟级剧烈波动,离线特征导致推荐失准,直接损失 GMV。
  • 模型时效性:模型本身需要在线学习或快速增量更新,离线训练-上线流程无法满足小时级甚至分钟级模型迭代。

实时链路的核心价值可以概括为:缩短数据产生到决策生效的时间差,提升模型预测与当前环境的相关性。

1.3 实时特征生产与模型 Serving 链路全景

下图展示了从原始事件发生到最终推理结果返回的完整实时链路架构。这是本课程反复参照的核心框架。

实时特征生产与模型 Serving 链路全景 数据源层 App/Web/日志/消息 实时特征计算 Flink/Spark Streaming 特征存储 Redis/Feature Store 模型 Serving Triton/TF Serving 在线请求 API Gateway 推理结果 推荐/风控/搜索 端到端延迟要求 数据产生 → 特征就绪:< 3s 请求 → 推理返回:< 50ms 整体 P99 < 200ms 本课程覆盖范围 实时特征生产 + 特征存储 模型部署 + 推理优化

1.4 课程目标

通过本课程的学习,你将具备以下能力:

  1. 独立设计实时特征生产链路:掌握 Flink / Spark Streaming 在特征计算中的实战技巧,包括时间窗口、状态管理、维表关联。
  2. 搭建高性能模型 Serving 服务:使用 Triton Inference Server / TF Serving 部署模型,实现毫秒级推理。
  3. 打通端到端实时链路:将特征生产、特征存储、模型推理串联,解决数据一致性、延迟抖动、容错等工程难题。
  4. 掌握生产级优化手段:特征缓存、模型预热、批处理、GPU 推理加速、A/B 测试框架集成。

1.5 前置知识要求

本课程面向有 1-3 年经验的机器学习工程师或后端工程师。建议具备以下基础:

领域 具体要求 推荐学习资源
编程语言 熟练 Python,了解 Java/Scala 基础 Python 官方教程、Java 基础语法
机器学习基础 理解特征工程、模型训练、推理概念 《机器学习实战》前 6 章
大数据基础 了解 Kafka、Flink 或 Spark 基本概念 Flink 官方文档快速入门
容器化 会使用 Docker,了解 Kubernetes 基本概念 Docker 从入门到实践
注意:如果对上述前置知识完全陌生,建议先花 1-2 周补齐基础,否则在实战章节中可能会遇到较大的理解障碍。本课程不会重复讲解 Python 语法或 Docker 安装等基础操作。

1.6 课程内容概览

全课程共 30 章,分为 5 个模块:

  • 模块一(第 1-5 章):基础概念与环境搭建,包括实时特征与 Serving 定义、技术选型、开发环境配置。
  • 模块二(第 6-12 章):实时特征生产实战,涵盖 Flink SQL / DataStream API、窗口聚合、维表关联、特征回溯。
  • 模块三(第 13-20 章):模型 Serving 实战,包括模型导出、Triton 部署、请求编排、性能调优。
  • 模块四(第 21-26 章):端到端链路整合,特征存储选型、链路监控、容错与一致性保障。
  • 模块五(第 27-30 章):生产级进阶,包括 A/B 测试、在线学习、大规模部署最佳实践。

现在,让我们正式进入实时特征生产与模型 Serving 的世界。