4. 数据流与控制流设计：在线推理路径、离线训练路径、反馈闭环设计
本章聚焦 AI 解决方案中三大核心路径的数据走向与决策控制逻辑。在线推理路径承载用户实时的预测请求，离线训练路径负责模型迭代更新，反馈闭环路径则实现数据循环与效果优化。三者之间通过精心设计的控制接口和数据管道形成有机整体，是架构是否可持续、易维护、可扩展的关键判定维度。
4.1 架构边界
数据流与控制流设计需明确以下边界：
- 在线域：面向终端用户，资源敏感，要求毫秒级延迟和高可用；不直接接触原始训练数据。
- 离线域：面向数据科学家与训练作业，吞吐敏感，运行批量任务；不响应实时请求。
- 反馈域：跨域交互，将生产环境和用户行为数据过滤、聚合、脱敏后回流至离线域。
边界划分原则：在线与离线必须通过存储或消息队列解耦，禁止训练作业直接访问在线服务的内存/数据库；反馈数据必须经过匿名化和降噪才能写回训练管道。
4.2 系统分层
| 层级 | 包含组件 | 定位 |
|---|---|---|
| 接入层 | API Gateway、负载均衡、认证网关 | 统一接收请求，分流至在线推理集群 |
| 在线推理层 | 推理容器/函数、特征缓存、模型服务 | 加载最新模型快照，实时计算并返回预测结果 |
| 离线训练层 | 数据管道、特征计算、训练框架、模型评估、模型注册 | 周期性调度训练任务，验证并上线模型 |
| 反馈汇聚层 | 日志采集、消息队列、批处理引擎、反馈存储 | 收集在线日志和用户主动反馈，处理后送入离线层 |
| 元数据与配置层 | 模型版本管理、特征仓库、配置中心、审计日志 | 提供全局可观测性和配置一致性 |
4.3 组件职责
- 推理网关：接收 HTTP/gRPC 请求，依照路由规则派发到对应模型版本；收集请求元数据并发送到日志管道。
- 模型服务引擎（如 Triton Inference Server、TorchServe）：管理模型加载/卸载、批量推理、GPU/CPU 资源调度。
- 特征存储：在线侧提供低延迟特征查询；离线侧支持批量特征回溯和拼接。
- 训练协调器：根据配置触发训练 Job，监控资源使用，管理分布式训练策略。
- 反馈处理器：消费消息队列中的推理日志和用户反馈，执行去重、异常过滤、标签标注后写入离线数据集。
4.4 数据流 / 控制流 / 信任链路
以下是三条路径在典型交互下的数据与控制流向：
信任链路要点：在线服务只能信任经过模型注册中心签名的模型工件；反馈数据必须携带来源标签（时间戳、请求ID、模型版本），否则离线训练无法建立正确的标签关联。
4.5 选型权衡
| 维度 | 典型方案 | 利弊 |
|---|---|---|
| 在线推理框架 | TorchServe / Triton / Seldon | Triton 多框架、多硬件支持好，但配置复杂；TorchServe 生态友好但缺乏动态批处理。 |
| 特征存储 | Redis / Feast / Tecton | Redis 极简低延迟，但无版控；Feast 提供线上线下一致性，但需额外运维组件。 |
| 训练调度 | Kubeflow / Airflow / Argo Workflows | Kubeflow 训练集成度高，但组件重；Airflow 灵活但训练感知弱。 |
| 反馈管道 | Kafka + Flink / Spark Streaming | Kafka+Flink 端到端低延迟，适合高吞吐；Spark Streaming 更适合大窗口批处理。 |
4.6 风险点
- 数据偏差漂移：反馈数据回流不及时或采样偏差，导致离线模型在线上失效。
- 配置不一致：在线与离线侧的特征计算逻辑不统一，造成训练/推理 gap。
- 背压与雪崩：在线推理日志洪峰填满消息队列，影响反馈管道稳定性。
- 模型版本错乱：多个训练任务同时注册不同版本，在线服务拉取到不兼容的模型。
核心风险：反馈闭环中的数据流是双向的——线上偏差可能通过回流污染训练数据集，导致模型效果退化。必须设置数据质量门控（如分布漂移检测、异常值过滤）。
4.7 落地步骤
- 定义数据合约：统一在线特征、训练特征、反馈特征的数据 schema 和版本策略。
- 搭建消息管道：部署 Kafka/Topic，规范日志格式和分区键（按模型版本路由）。
- 实现控制台：配置中心 (etcd/Consul) 管理模型路由、特征开关、反馈采样率。
- 集成模型注册：训练完成后自动推送模型到注册中心，在线服务监听变更自动热加载。
- 部署反馈处理器：编写流任务将原始日志转换为结构化训练样本，加入回传缓冲区。
- 灰度切换：先启动反馈闭环但仅记录不回流，验证数据质量后再开启自动回流。
4.8 验收标准
- 在线推理端到端 P99 延迟 ≤ 100ms（模型加载预热后）。
- 离线训练任务可每晚自动触发，新模型从注册到在线服务生效 ≤ 5 分钟。
- 反馈数据从产生到写入离线数据集延迟 ≤ 10 分钟（99.9%）。
- 在线与离线特征抽取结果在随机采样集上一致性 ≥ 99.9%。
- 无配置不一致、模型版本冲突导致的线上事故。