VIP20
本课程属于：007-ONNX模型转换与算子兼容 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

ONNX Runtime量化模型推理性能调优课程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 量化基本概念 · ONNX Runtime简介
课程导入学习目标
02
ONNX模型基础
ONNX格式 · 模型结构 · 算子节点
ONNX模型基础
03
量化原理入门
量化定义 · 定点与浮点 · 量化参数（scale
量化原理入门量化定义
04
量化精度与性能权衡
量化对模型精度的影响 · 性能提升原理 · 不同量化位宽（INT8
量化精度性能权衡
05
ONNX Runtime量化工具链
quantization工具包 · API概览 · 量化流程（校准
ONNXRuntime
06
静态量化实战
使用onnxruntime.quan… · 校准数据集准备 · 量化配置参数详解
静态量化实战onnxruntime.…
07
动态量化实战
动态量化原理 · 适用模型类型 · 实现方法
动态量化实战动态量化原理
08
量化感知训练（QAT）基础
QAT概念 · 与训练后量化（PTQ）区别 · ONNX Runtime对QAT的支…
QAT量化感知训练
09
校准方法详解
MinMax · Percentile · Entropy
校准方法详解MinMax
10
量化算子支持与排除
ONNX Runtime量化支持算子… · 不支持的算子处理 · 自定义算子量化
量化算子支持排除
11
模型优化与图变换
图优化 · 算子融合（Conv+BN · MatMul+Add）
模型优化图变换
12
推理会话配置
SessionOptions设置 · 执行模式（顺序/并行） · 线程数
推理会话配置SessionOptio…
13
性能基准测试方法
性能指标（延迟 · 吞吐量 · 内存占用）
性能基准测试方法性能指标
14
量化模型精度评估
评估指标（准确率 · F1等） · 评估流程
量化模型精度评估评估指标
15
常见量化问题与调试
量化后精度骤降 · 推理错误 · 性能未提升
常见量化问题调试
16
多平台部署优化
CPU · GPU · NPU
多平台部署优化CPU
17
混合精度量化
不同层使用不同位宽 · 敏感层分析 · 混合精度配置
混合精度量化不同层使用不同位…
18
量化与剪枝结合
模型剪枝基础 · 剪枝与量化联合优化流程 · ONNX Runtime中的支持
量化剪枝结合
19
Transformer模型量化
Transformer结构特点 · 注意力机制量化挑战 · BERT等模型量化实战
Transformer模型量化
20
CNN模型量化实战
ResNet · MobileNet等典型CNN量化流… · 性能与精度对比
CNN模型量化实战
21
YOLO系列模型量化
目标检测模型量化难点 · 后处理量化影响 · YOLOv5/v8量化案例
YOLO系列模型量化
22
NLP模型量化
文本分类 · 情感分析等NLP模型量化 · 动态量化应用
NLP模型量化
23
语音模型量化
语音识别 · 语音合成模型量化 · 流式推理优化
语音模型量化语音识别
24
量化模型与推理引擎集成
ONNX Runtime与其他框架（… · OpenVINO）对比 · 模型转换
量化模型推理引擎集成
25
端到端性能调优案例
从原始模型到量化部署的完整流程 · 包括预处理 · 量化
端到端性能调优案…从原始模型到量化…
26
性能调优高级技巧
内存复用 · IO绑定 · 异步推理
性能调优高级技巧内存复用
27
量化模型安全与稳定性
数值稳定性 · 异常输入处理 · 模型鲁棒性
量化模型安全稳定性
28
自动化调优工具
使用ONNX Runtime的自动调… · Optimum库 · 超参数搜索
自动化调优工具ONNX
29
综合实战项目
设计一个完整的量化推理性能调优项目 · 从需求分析 · 方案设计
综合实战项目设计一个完整的量…
30
课程总结与进阶方向
回顾核心知识点 · 常见误区 · 学习资源推荐
课程总结进阶方向