VIP10
本课程属于：049-金融模型Serving与低延迟推理 智能金融与金融工程 · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

金融Serving API、批量推理与版本编排实战

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入
目标=金融场景下模型服务化的学习目标 · 核心概念 · 整体框架与实战路线图
课程导入目标=金融场景下…
02
金融AI服务化基础
目标=Serving API · 批量推理 · 版本编排的定义
AI金融
03
环境与工具准备
目标=Python · FastAPI · Docker
环境工具准备
04
金融Serving API设计原则
目标=RESTful与gRPC接口设… · 请求响应规范 · 鉴权
ServingAPI
05
模型封装与API开发实战
目标=使用FastAPI封装信用评分… · 实现预测接口 · 健康检查与日志记录
API模型封装
06
批量推理基础
目标=批量推理与在线推理的区别 · 适用场景 · 数据分片
批量推理基础目标=批量推理
07
批量推理任务编排
目标=使用Airflow或Prefe… · 实现定时批量评分 · 依赖管理与失败重试
批量推理任务编排Airflow
08
金融数据预处理与特征工程
目标=批量场景下的数据清洗 · 特征对齐 · 缺失值处理与版本一致性保障
金融数据预处理特征工程
09
模型版本管理
目标=模型注册 · 版本命名 · 元数据管理
模型版本管理目标=模型注册
10
版本编排核心概念
目标=灰度发布 · 蓝绿部署 · A/B测试
版本编排核心概念目标=灰度发布
11
Serving API版本路由实战
目标=基于请求头 · 用户分组或流量比例实现多版本模型路由
ServingAPI
12
批量推理性能优化
目标=批处理大小调优 · GPU/CPU资源分配 · 异步IO与内存管理技巧
批量推理性能优化目标=批处理大小…
13
金融场景下的模型监控
目标=预测延迟 · 吞吐量 · 数据漂移
金融场景下的模型…目标=预测延迟
14
日志、追踪与可观测性
目标=结构化日志 · OpenTelemetry · Prometheus与Grafana…
日志追踪
15
安全与合规
目标=金融数据隐私 · 模型加密 · 访问控制
安全合规
16
高可用与容灾
目标=多副本部署 · 负载均衡 · 故障转移与跨区域容灾方案
高可用容灾
17
批量推理与Serving API协同
目标=离线批量评分与在线实时推理的联…
ServingAPI
18
版本编排与CI/CD集成
目标=GitOps · 模型自动构建 · 测试
CI/CD版本编排
19
实战案例一
目标=信贷风控模型Serving A…
实战案例一Serving
20
实战案例二
目标=量化交易信号批量推理与定时任务…
实战案例二目标=量化交易信…
21
实战案例三
目标=反欺诈模型多版本A/B测试与效…
实战案例三A/B
22
常见问题与排查
目标=接口超时 · 内存泄漏 · 版本冲突
常见问题排查
23
性能压测与容量规划
目标=使用Locust或JMeter… · 基于结果规划资源
性能压测容量规划
24
成本优化
目标=模型量化 · 蒸馏 · 缓存
成本优化目标=模型量化
25
团队协作与工程规范
目标=代码规范 · 接口文档 · 模型卡片
团队协作工程规范
26
综合项目一
目标=从零构建金融Serving A…
综合项目一Serving
27
综合项目二
目标=基于Kubernetes与Is…
综合项目二Kubernetes
28
前沿扩展
目标=大模型Serving · 向量数据库 · 实时特征平台与联邦学习在金融中的应用
前沿扩展Serving
29
课程总结与知识体系梳理
目标=核心要点回顾 · 能力自评与进阶学习路径
课程总结知识体系梳理
30
结业实战
目标=独立完成一个金融场景的Serv… · 批量推理与版本编排综合方案并答辩
结业实战Serv