VIP20
本课程属于：040-模型可解释性低延迟评分接口 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

低延迟模型服务API发布与可解释性教程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导论与整体架构
低延迟模型服务的定义 · 应用场景（实时推荐 · 风控
课程导论整体架构
02
模型服务化基础
模型序列化与反序列化（ONNX · TorchScript · TensorFlow SavedMo…
模型服务化基础ONNX
03
RESTful API设计原则
REST架构风格 · 资源定义 · HTTP方法（GET/POST/PU…
RESTfulAPI
04
gRPC与Protocol Buffers
gRPC核心概念 · Proto文件定义 · Unary/Server Strea…
gRPCProtocol
05
高性能Web框架选型
FastAPI vs Flask v… · 异步特性与性能基准测试
Web高性能
06
异步编程与并发模型
Python asyncio原理 · 事件循环 · 协程
异步编程并发模型
07
请求批处理与动态批处理
静态批处理策略 · 动态批处理（Delayed Batc… · 窗口策略（Max Latency /…
请求批处理动态批处理
08
模型推理加速技术
GPU推理（CUDA · TensorRT） · CPU推理优化（ONNX Runti…
模型推理加速技术GPU
09
缓存策略与内存管理
LRU缓存 · TTL缓存 · 模型热加载与热更新
缓存策略内存管理
10
负载均衡与服务发现
Nginx反向代理 · Kubernetes Service · gRPC负载均衡（Round Rob…
负载均衡服务发现
11
容器化与Docker部署
Dockerfile编写最佳实践（多… · 最小基础镜像） · 容器资源限制（CPU/Memory）
Docker容器化
12
Kubernetes编排与自动扩缩容
Pod · Deployment · Service
Kubernetes编排
13
API网关与流量管理
Kong / APISIX / En… · 限流（Rate Limiting） · 熔断（Circuit Breaker…
API网关
14
监控与可观测性
Prometheus指标暴露（请求延… · QPS · 错误率）
监控可观测性
15
性能测试与基准测试
Locust / wrk / ghz… · 延迟分布（P50/P90/P99） · 吞吐量测试
性能测试基准测试
16
可解释性导论
为什么需要可解释性？可解释性分类（全… · 内在/事后 · 模型特定/模型无关）
可解释性导论为什么需要可解释…
17
全局可解释性方法
特征重要性（Permutation… · 部分依赖图（PDP） · 累积局部效应（ALE）
全局可解释性方法Permutation
18
局部可解释性方法
LIME原理与实现 · SHAP原理与实现（KernelSH… · 对比与适用场景
局部可解释性方法LIME
19
基于梯度的可解释性
Saliency Map · Grad-CAM · Integrated Gradien…
基于梯度的可解释…Saliency
20
基于规则与逻辑的可解释性
决策规则提取 · 锚点解释（Anchors） · 对比解释（Contrastive E…
基于规则逻辑的可解释性
21
模型无关解释与模型特定解释
模型无关方法（LIME · SHAP）的通用性 · 模型特定方法（Tree Interp…
模型无关解释模型特定解释
22
可解释性在API中的集成
解释结果作为API响应的一部分 · 解释服务独立部署 · 解释请求与推理请求的同步/异步模式
API可解释性
23
可解释性质量评估
解释的忠实度（Fidelity） · 稳定性（Stability） · 可理解性（Comprehensibi…
可解释性质量评估Fidelity
24
端到端项目实战（一）
需求分析与架构设计 · 技术选型（FastAPI + gRP… · 系统架构图
端到端项目实战需求分析
25
端到端项目实战（二）
模型训练与导出 · 导出为ONNX格式 · 验证ONNX推理精度与性能
端到端项目实战模型训练
26
端到端项目实战（三）
API服务开发与批处理 · 集成ONNX Runtime推理 · 实现动态批处理逻辑
端到端项目实战API
27
端到端项目实战（四）
可解释性服务集成 · 将解释结果封装为API响应字段 · 优化解释计算延迟
端到端项目实战可解释性服务集成
28
端到端项目实战（五）
容器化与Kubernetes部署 · 构建镜像 · 编写Kubernetes YAML（…
端到端项目实战Kubernetes
29
端到端项目实战（六）
性能调优与监控 · 分析P99延迟瓶颈 · 调整批处理窗口与缓存策略
端到端项目实战性能调优
30
课程总结与进阶方向
低延迟服务最佳实践总结 · 可解释性前沿（概念瓶颈模型 · 因果解释）
课程总结进阶方向