VIP20
本课程属于：040-模型可解释性低延迟评分接口 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

评分接口低延迟调优：可解释AI应用指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导论
可解释AI与低延迟评分接口的融合价值 · 课程目标与学习路径
课程导论AI
02
评分接口核心指标
延迟 · 吞吐量 · P99延迟
评分接口核心指标延迟
03
可解释AI基础
LIME · SHAP · 注意力机制等主流可解释性方法概述
AI可解释
04
延迟瓶颈分析
模型推理 · 特征工程 · 网络传输
延迟瓶颈分析模型推理
05
模型轻量化技术
知识蒸馏 · 模型剪枝 · 量化（INT8/FP16）在可解释模…
模型轻量化技术知识蒸馏
06
特征工程优化
在线特征计算与预计算策略 · 特征缓存设计
特征工程优化线特征计算
07
模型服务架构
同步调用 vs 异步调用 · 批处理聚合对延迟的影响
模型服务架构vs
08
推理引擎选型
ONNX Runtime · TensorRT · OpenVINO在低延迟场景下的对比
推理引擎选型ONNX
09
可解释性计算优化
近似SHAP计算 · LIME采样加速 · 基于梯度的归因加速
可解释性计算优化SHAP
10
缓存策略设计
特征级缓存 · 结果级缓存 · TTL与失效策略
缓存策略设计特征级缓存
11
请求路由与负载均衡
一致性哈希 · 权重轮询在可解释服务中的应用
请求路由负载均衡
12
序列化优化
Protobuf · FlatBuffers · MessagePack对比与选择
序列化优化Protobuf
13
网络传输优化
gRPC vs HTTP/2 · 连接池 · Keep-Alive配置
网络传输优化gRPC
14
GPU加速推理
CUDA图 · Tensor Core · 动态批处理在可解释模型中的实践
GPU加速推理
15
CPU指令集优化
AVX-512 · VNNI指令对模型推理的加速效果
CPU指令集优化
16
内存管理
对象池 · 内存复用 · 避免GC抖动对延迟的影响
内存管理对象池
17
并发与异步编程
协程 · 异步IO · 线程池在评分接口中的最佳实践
并发异步编程
18
可解释性结果压缩
特征重要性稀疏表示 · 归因图压缩传输
可解释性结果压缩特征重要性稀疏表…
19
预热与冷启动优化
模型预热 · JIT编译预热 · 连接池预热
预热冷启动优化
20
监控与可观测性
OpenTelemetry集成 · 延迟链路追踪 · 指标采集
监控可观测性
21
A/B测试与灰度发布
可解释性版本对比 · 延迟影响评估
A/B测试
22
安全与限流
令牌桶 · 漏桶算法在保护评分接口中的应用
安全限流
23
边缘部署优化
模型分片 · 端侧推理 · 边缘缓存策略
边缘部署优化模型分片
24
多模型编排
特征共享 · 模型级联 · 并行推理的延迟优化
多模型编排特征共享
25
动态模型选择
根据请求复杂度选择不同精度的可解释模…
动态模型选择根据请求复杂度选…
26
实验设计与基准测试
wrk · ghz · locust等工具的使用与结果分析
实验设计基准测试
27
案例实战一
金融风控评分接口的SHAP解释延迟优…
案例实战一SHAP
28
案例实战二
推荐系统特征重要性解释接口的吞吐量提…
案例实战二推荐系统特征重要…
29
案例实战三
医疗影像AI辅助诊断的实时归因解释
案例实战三AI
30
课程总结
最佳实践清单 · 常见陷阱与未来趋势（如可解释性即服务…
课程总结最佳实践清单