VIP20
本课程属于：043-实时风控网关批流一体链路 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

风控网关低延迟模型部署指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
风控网关概述
风控网关的定义 · 在金融/互联网业务中的核心地位 · 低延迟的重要性与挑战
风控网关概述风控网关的定义
02
低延迟架构设计原则
无锁编程 · 零拷贝 · 异步非阻塞I/O
低延迟架构设计原…无锁编程
03
模型部署基础
模型序列化格式（ONNX · PMML · PTH）
模型部署基础ONNX
04
高性能计算框架选型
TensorRT · ONNX Runtime · Triton Inference S…
高性能计算框架选…TensorRT
05
网关路由与流量分发
基于规则的路由 · 基于模型ID的路由 · 动态路由策略
网关路由流量分发
06
请求预处理与特征工程
特征提取 · 特征标准化 · 特征缓存
请求预处理特征工程
07
模型推理引擎集成
C++/Java SDK集成 · gRPC/HTTP协议选择 · 批处理与动态batching
模型推理引擎集成C++/Java
08
内存管理与对象池
对象池设计模式 · 内存复用 · 避免GC停顿
内存管理对象池
09
网络优化
TCP/IP调优 · 内核参数优化 · 使用RDMA/DPDK
网络优化TCP/IP
10
序列化与反序列化优化
Protobuf · FlatBuffers · Cap'n Proto
序列化反序列化优化
11
缓存策略
本地缓存（Caffeine · Guava） · 分布式缓存（Redis）
缓存策略Caffeine
12
异步处理与事件驱动
Reactor模式 · Proactor模式 · Netty/Vert.x
异步处理事件驱动
13
负载均衡与容灾
一致性哈希 · 最小连接数 · 健康检查
负载均衡容灾
14
监控与可观测性
Prometheus指标 · Grafana面板 · 日志采集（ELK）
监控可观测性
15
性能压测与调优
wrk · ghz · JMeter压测
性能压测调优
16
模型热更新与无损发布
蓝绿部署 · 金丝雀发布 · 模型版本切换
模型热更新无损发布
17
GPU推理优化
CUDA编程基础 · Tensor Core使用 · 算子融合
GPU推理优化
18
CPU推理优化
AVX指令集 · MKL/OpenBLAS · NUMA亲和性
CPU推理优化
19
边缘部署与嵌入式推理
ARM架构优化 · 量化模型 · TFLite
边缘部署嵌入式推理
20
安全与合规
模型加密 · 输入校验 · 防重放攻击
安全合规
21
多模型编排与流水线
模型DAG · 串行/并行推理 · 条件分支
多模型编排流水线
22
特征存储与共享
特征平台（Feast · Tecton） · 在线/离线特征一致性
特征存储共享
23
模型解释性与可解释AI
SHAP · LIME · 特征重要性
AI模型解释性
24
A/B实验与模型评估
在线A/B测试 · 离线评估 · 指标计算
A/B实验
25
资源隔离与容器化
Docker · Kubernetes · cgroup
资源隔离容器化
26
服务网格与Sidecar
Istio · Envoy · 流量管理
Sidecar服务网格
27
配置中心与动态配置
Apollo · Nacos · etcd
配置动态配置
28
日志与告警体系
结构化日志 · 告警规则 · 通知渠道（钉钉/邮件/PagerDu…
日志告警体系
29
全链路压测与容量规划
压测模型 · 容量评估 · 弹性伸缩
全链路压测容量规划
30
案例实战
某支付平台风控网关低延迟部署全流程复… · 性能数据 · 踩坑记录）
案例实战某支付平台风控网…