VIP20
本课程属于：038-支付风控策略高并发评分通道 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

高并发下评分通道模型部署教程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导论
高并发评分通道的业务场景 · 技术挑战与课程目标
课程导论高并发评分通道的…
02
评分模型基础
模型文件格式（ONNX/PMML） · 模型加载与单次推理流程
评分模型基础ONNX/PMML
03
高并发核心概念
QPS · TPS · 响应时间
高并发核心概念QPS
04
部署架构设计
单体架构 vs 微服务架构 vs S…
部署架构设计vs
05
负载均衡策略
轮询 · 加权轮询 · 最少连接
负载均衡策略轮询
06
模型服务框架选型
Flask · FastAPI · Triton Inference S…
模型服务框架选型Flask
07
FastAPI实战
搭建第一个RESTful评分接口 · 异步处理与数据验证
FastAPIRESTful
08
Triton Inference Server入门
安装 · 配置模型仓库 · 启动服务
TritonInference
09
模型并发优化
批处理（Batching） · 动态批处理 · 模型流水线
模型并发优化Batching
10
GPU资源管理
CUDA编程基础 · GPU显存监控 · MPS与MIG技术
GPU资源管理
11
异步与协程
Python asyncio原理 · 异步HTTP客户端 · 非阻塞I/O
异步协程
12
消息队列解耦
RabbitMQ/Kafka在评分请…
消息队列解耦RabbitMQ/Kaf…
13
缓存策略
本地缓存（LRU） · 分布式缓存（Redis）缓存模型特征…
缓存策略LRU
14
连接池与线程池
HTTP连接池 · 数据库连接池 · 线程池调优
连接池线程池
15
服务发现与注册
Consul · Eureka · Kubernetes Service…
服务发现注册
16
容器化部署
Dockerfile编写 · 镜像优化 · 多阶段构建
容器化部署Dockerfile
17
Kubernetes编排
Pod · Deployment · Service
Kubernetes编排
18
Ingress与API网关
Nginx · Kong · Traefik配置限流与路由
IngressAPI
19
熔断与降级
Hystrix/Resilience… · Sentinel在Python中的实…
熔断降级
20
全链路压测
Locust · wrk · JMeter压测脚本编写与性能指标采…
全链路压测Locust
21
性能监控与告警
Prometheus + Grafa… · 错误率 · QPS）
性能监控告警
22
日志收集与分析
ELK/EFK架构 · 结构化日志 · 分布式追踪（Jaeger）
日志收集分析
23
模型版本管理
MLflow Model Regis… · 模型灰度发布与回滚
模型版本管理MLflow
24
A/B测试与金丝雀发布
流量切分策略 · 评估指标对比
A/B测试
25
安全防护
API鉴权（JWT） · 速率限制（Rate Limiting… · 输入校验
安全防护API
26
多模型编排
DAG工作流 · 特征工程与模型推理的流水线编排
多模型编排DAG
27
边缘部署
在IoT设备或CDN节点上部署轻量级…
边缘部署IoT
28
成本优化
Spot实例 · 预留实例 · 自动缩容策略与成本监控
成本优化Spot
29
故障演练与容灾
混沌工程 · 多活架构 · 数据备份与恢复
故障演练容灾
30
课程总结与最佳实践
架构演进路线图 · 常见坑点与面试题解析
课程总结最佳实践