VIP20

本课程属于：028-ONNX模型部署与推理优化 AI与大模型 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

ONNX模型量化压缩优化案例

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · ONNX模型量化压缩优化的背景与价值

课程导入学习目标

ONNX格式介绍 · 模型结构解析 · 常用工具与生态

ONNX格式介绍

模型量化基础

量化原理 · 定点与浮点 · 量化参数（scale

模型量化基础量化原理

对称量化与非对称量化 · 动态量化与静态量化 · 量化粒度

量化类型对称量化

ONNX量化工具

onnxruntime量化工具 · onnxconverter-comm… · 其他量化库

ONNX量化工具

动态量化实战

使用onnxruntime进行动态量… · 处理典型模型

动态量化实战onnxruntime

静态量化实战

校准数据准备 · 量化参数计算 · 静态量化流程

静态量化实战校准数据准备

量化感知训练

QAT概念 · 模拟量化 · 在PyTorch中实现QAT并导出O…

量化感知训练QAT

模型压缩方法

剪枝 · 蒸馏 · 低秩分解与量化的结合

模型压缩方法剪枝

ONNX模型剪枝

结构化剪枝与非结构化剪枝 · 工具与实现

ONNX模型剪枝

教师-学生架构 · 蒸馏损失 · 在ONNX模型上的应用

知识蒸馏教师

SVD分解 · 矩阵低秩近似 · 在ONNX模型中的实现

低秩分解SVD

不同层采用不同精度 · 敏感层分析 · 混合量化策略

混合量化不同层采用不同精…

量化误差分析

误差来源 · 评估指标 · 如何减少误差

量化误差分析误差来源

ONNX模型优化

图优化 · 算子融合 · 常量折叠等

ONNX模型优化

onnxruntime性能调优

线程设置 · 执行模式 · 内存优化

onnxruntime性能调优

图像分类模型量化压缩（ResNet-…

目标检测模型量化压缩（YOLOv5）

自然语言处理模型量化压缩（BERT）

语音识别模型量化压缩（Conform…

推荐系统模型量化压缩（DeepFM）

量化模型部署

ONNX Runtime · TensorRT · OpenVINO等推理引擎

量化模型部署ONNX

CPU · GPU · NPU

硬件适配CPU

常见问题与解决方案

量化后精度下降 · 推理速度未提升等

常见问题解决方案

模型压缩综合实战

结合剪枝 · 量化和蒸馏的完整流程

模型压缩综合实战结合剪枝

自动化压缩工具

Intel Neural Compr… · MSQ等

自动化压缩工具Intel

模型压缩评估

模型大小 · 推理延迟 · 吞吐量

模型压缩评估模型大小

低比特量化 · 二值化 · 量化Transformer

前沿进展低比特量化

从PyTorch模型到ONNX量化压…

综合项目PyTorch

知识回顾 · 最佳实践 · 学习路径建议

课程总结知识回顾