VIP20
本课程属于：043-实时风控网关批流一体链路 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

实时风控引擎model serving教程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
风控模型服务化概述
实时风控场景 · Model Serving定义 · 与传统批处理的区别
风控模型服务化概…实时风控场景
02
模型服务化架构设计
整体架构图 · 请求入口 · 特征工程
模型服务化架构设…整体架构图
03
模型格式与序列化
ONNX · PMML · PTH
模型格式序列化
04
模型部署框架选型
Triton Inference S… · TorchServe · Seldon Core
模型部署框架选型Triton
05
Triton Inference Server入门
安装 · 启动 · 基本配置
TritonInference
06
Triton模型配置详解
config.pbtxt编写 · 输入输出定义 · 动态批处理
Triton模型配置详解
07
Triton多模型管理与版本控制
模型版本策略 · 模型加载/卸载 · 蓝绿部署
Triton多模型管理
08
Triton性能优化
并发模型实例 · 动态批处理 · 模型并发
Triton性能优化
09
Triton集成自定义算子
C++/Python自定义算子开发 · 注册与调用
Triton集成自定义算子
10
Triton集成预处理/后处理
Ensemble模式 · BLS(Business Logic…
Triton集成预处理
11
Triton指标监控与日志
Prometheus指标 · 日志配置 · 健康检查接口
Triton指标监控
12
Triton安全与鉴权
TLS配置 · Token认证 · 模型访问控制
Triton安全
13
Triton客户端SDK
Python/Java/C++客户端 · gRPC与HTTP协议选择
TritonSDK
14
Triton生产化部署
Kubernetes部署 · Helm Chart · 自动扩缩容
Triton生产化部署
15
TorchServe入门
安装 · 启动 · 模型归档(.mar)
TorchServe安装
16
TorchServe自定义handler
预处理 · 推理 · 后处理逻辑编写
TorchServehandler
17
TorchServe批量推理与动态批处理
batch_size配置 · 请求排队
TorchServe批量推理
18
TorchServe模型版本管理与A/B测试
版本策略 · 流量路由
TorchServeA/B
19
TorchServe指标与监控
自定义指标 · Prometheus集成 · 日志管理
TorchServe指标
20
TorchServe生产化部署
Docker化 · Kubernetes部署 · 水平扩展
TorchServe生产化部署
21
Seldon Core入门
安装 · 部署第一个模型 · SeldonDeployment C…
SeldonCore
22
Seldon Core推理图与组合
多步骤推理 · 模型组合 · AB测试
SeldonCore
23
Seldon Core监控与可观测性
Prometheus · Grafana · 请求追踪
SeldonCore
24
Seldon Core与Istio集成
流量管理 · 灰度发布 · 熔断降级
SeldonCore
25
BentoML入门
Bento构建 · BentoServer启动 · REST/gRPC API
BentoMLBento
26
BentoML高级特性
分布式批处理 · 模型组合 · 自定义Runner
BentoML高级特性
27
BentoML部署到云原生环境
Docker · Kubernetes · AWS SageMaker
BentoML部署到云原生环境
28
模型服务性能基准测试
延迟 · 吞吐量 · 资源消耗
模型服务性能基准…延迟
29
模型服务高可用与容灾
多副本 · 负载均衡 · 健康检查
模型服务高可用容灾
30
实时风控模型服务最佳实践
特征缓存 · 降级策略 · 模型热更新
实时风控模型服务…特征缓存