VIP20
本课程属于：020-SMILES分子生成建模 生物信息学与 AI 制药工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

模型部署与推理优化案例

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
模型部署概述
从训练到生产的关键环节
模型部署概述从训练到生产的关…
02
模型导出与格式转换
ONNX · TorchScript · SavedModel
模型导出格式转换
03
ONNX Runtime推理引擎
安装 · 配置与基础使用
ONNXRuntime
04
TensorRT加速
模型优化与部署实践
TensorRT加速
05
OpenVINO工具套件
Intel平台推理优化
OpenVINO工具套件
06
模型量化技术
INT8 · FP16压缩与加速
模型量化技术INT8
07
模型剪枝与结构化稀疏
模型剪枝与结构化稀疏 · 核心概念 · 实践要点
模型剪枝结构化稀疏
08
知识蒸馏
小模型学习大模型
知识蒸馏小模型学习大模型
09
Pytorch模型部署
TorchScript与LIBTOR…
Pytorch模型部署
10
TensorFlow Serving
高性能模型服务
TensorFlowServing
11
TorchServe
PyTorch模型部署框架
TorchServePyTorch
12
Triton Inference Server
多框架统一推理
TritonInference
13
Docker容器化部署
打包模型与环境
Docker容器化部署
14
Kubernetes集群部署
弹性推理服务
Kubernetes集群部署
15
模型推理性能分析与Profiling
模型推理性能分析与Profiling · 核心概念 · 实践要点
Profiling模型推理性能分析
16
CPU推理优化
MKL-DNN · AVX指令集运用
CPU推理优化
17
GPU推理优化
CUDA · cuDNN · Tensor Cores
GPU推理优化
18
内存优化
减少显存占用与数据加载
内存优化减少显存占用
19
批处理与动态批处理优化
批处理与动态批处理优化 · 核心概念 · 实践要点
批处理动态批处理优化
20
异步推理与流水线并行
异步推理与流水线并行 · 核心概念 · 实践要点
异步推理流水线并行
21
边缘端模型部署
TensorFlow Lite · ONNX Runtime Mobil…
边缘端模型部署TensorFlow
22
Web端推理
ONNX.js · TensorFlow.js
Web端推理
23
模型版本管理与A/B测试
模型版本管理与A/B测试 · 核心概念 · 实践要点
A/B模型版本管理
24
模型监控与自动扩缩容
模型监控与自动扩缩容 · 核心概念 · 实践要点
模型监控自动扩缩容
25
模型安全
对抗攻击防护与加密
模型安全对抗攻击防护
26
自定义算子开发与集成
自定义算子开发与集成 · 核心概念 · 实践要点
自定义算子开发集成
27
混合精度推理与深度学习编译器
混合精度推理与深度学习编译器 · 核心概念 · 实践要点
混合精度推理深度学习编译器
28
模型部署CI/CD流水线设计
模型部署CI/CD流水线设计 · 核心概念 · 实践要点
CI/CD模型部署
29
大规模模型分布式推理
大规模模型分布式推理 · 核心概念 · 实践要点
大规模模型分布式…重点
30
案例实战
从图像分类到目标检测部署全流程
案例实战从图像分类到目标…