VIP20
本课程属于：043-实时风控网关批流一体链路 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

风控网关model serving工程实践

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
风控网关概述
风控网关在金融科技中的定位 · 核心职责与整体架构演进
风控网关概述风控网关
02
模型服务化基础
模型服务化的定义 · 与传统批处理推理的区别 · 在线推理的关键指标（延迟
模型服务化基础模型服务化的定义
03
网关路由与流量分发
基于请求特征的动态路由策略 · 灰度发布与蓝绿部署在风控网关中的实现
网关路由流量分发
04
模型版本管理
模型注册中心设计 · 版本号语义化规范 · 模型热加载与回滚机制
模型版本管理模型注册
05
特征工程在线化
在线特征抽取与离线特征对齐 · 特征存储选型（Redis/Featu… · 特征缓存策略
特征工程线化
06
请求预处理与协议适配
多协议接入（HTTP/gRPC/Th… · 请求参数校验与标准化 · 协议转换中间件设计
请求预处理协议适配
07
模型推理引擎选型
TensorFlow Serving · TorchServe · ONNX Runtime
模型推理引擎选型TensorFlow
08
模型容器化与编排
Docker镜像构建最佳实践 · Kubernetes部署模型服务 · 资源配额与自动扩缩容（HPA/VPA…
模型容器化编排
09
网关与模型服务的通信模式
同步调用 · 异步回调 · 事件驱动架构在风控场景下的适用性分析
网关模型服务的通信模…
10
超时与熔断机制
请求超时设置策略 · 熔断器模式（Circuit Brea… · 降级与限流方案
超时熔断机制
11
模型推理的批处理优化
动态批处理（Dynamic Batc… · 请求合并策略 · 延迟与吞吐的权衡
模型推理的批处理…Dynamic
12
模型预热与冷启动优化
模型加载预热机制 · JIT编译优化 · GPU显存预分配与冷启动延迟消除
模型预热冷启动优化
13
特征与模型联合部署
特征计算与模型推理的亲和性部署 · Sidecar模式 · 减少网络开销的架构设计
特征模型联合部署
14
风控规则引擎与模型引擎的协同
规则前置过滤 · 模型后置打分 · 规则与模型的混合编排引擎设计
风控规则引擎模型引擎的协同
15
模型解释性与可观测性
SHAP/LIME在线解释服务集成 · 特征重要性输出 · 决策日志记录
模型解释性可观测性
16
全链路追踪与监控
OpenTelemetry在风控网关… · Span与Trace设计 · 关键指标（P99延迟
全链路追踪监控
17
模型A/B测试与实验平台
流量分桶策略 · 实验配置中心 · 模型效果对比与自动决策
A/B模型
18
模型安全与防攻击
模型窃取防护 · 对抗样本检测 · 请求重放攻击防御
模型安全防攻击
19
网关高可用设计
多活架构 · 异地多机房部署 · 健康检查与自动故障转移
网关高可用设计多活架构
20
模型服务性能基准测试
压测工具选型（Locust/k6/g… · 性能基线建立 · 瓶颈分析与优化
模型服务性能基准…Locust/k6/g
21
模型持续集成与持续交付（CI/CD）
模型训练到上线的自动化流水线 · 质量门禁 · 自动化回归测试
CI/CD模型持续集成
22
模型存储与加载优化
模型文件格式（SavedModel/… · 分布式文件系统（S3/MinIO）挂… · 内存映射加载
模型存储加载优化
23
GPU资源管理与调度
GPU共享与隔离（MPS/MIG） · GPU显存监控 · 模型推理的GPU利用率优化
GPU资源管理
24
风控网关的配置中心
动态配置下发 · 配置热更新 · 配置版本管理与回滚
风控网关的配置动态配置下发
25
模型服务日志与审计
结构化日志规范 · 日志采集（Filebeat/Flue… · 审计追踪与合规要求
模型服务日志审计
26
模型服务异常处理与重试策略
幂等性设计 · 重试退避算法（Exponential… · 死信队列处理
模型服务异常处理重试策略
27
风控网关的限流与配额管理
令牌桶与漏桶算法实现 · 用户级别/模型级别限流 · 配额动态调整
风控网关的限流配额管理
28
模型服务联邦部署与边缘推理
端侧模型部署 · 联邦学习推理 · 边缘节点与中心节点的协同
模型服务联邦部署边缘推理
29
模型服务成本优化
模型量化与剪枝 · 推理实例选型（CPU/GPU/TPU… · Spot实例与预留实例的成本对比
模型服务成本优化模型量化
30
风控网关模型服务工程实践总结
架构设计原则 · 常见陷阱与避坑指南 · 未来趋势（LLM推理
风控网关模型服务…架构设计原则