VIP20
本课程属于：026-YOLOv11模型剪枝量化压缩 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

YOLOv11模型量化INT8实战手册

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
YOLOv11与模型量化概述
YOLOv11发展历程 · 模型量化原理（FP32 vs INT… · 量化带来的收益与挑战
YOLOv11模型量化概述
02
环境搭建与工具链准备
Python环境配置 · PyTorch安装 · ONNX与ONNX Runtime
环境搭建工具链准备
03
YOLOv11模型导出与ONNX转换
从PyTorch导出ONNX模型 · 动态batch设置 · Opset版本选择
YOLOv11ONNX
04
ONNX模型结构解析
使用Netron可视化ONNX模型 · 理解Conv · BN
ONNX模型结构解析
05
校准数据集准备
什么是校准数据集 · 如何从训练集中抽取校准样本 · 数据预处理对齐（Resize
校准数据集准备什么是校准数据集
06
TensorRT INT8量化原理
饱和量化 vs 非饱和量化 · KL散度校准算法 · 熵校准过程
TensorRTINT8
07
TensorRT INT8量化实战（一）
使用TensorRT的Python… · 设置量化模式（INT8） · 指定校准器（Int8EntropyC…
TensorRTINT8
08
TensorRT INT8量化实战（二）
自定义校准器类（继承IInt8Ent… · 实现get_batch()方法 · 处理预处理逻辑
TensorRTINT8
09
TensorRT INT8量化实战（三）
构建推理引擎 · 序列化引擎（.engine文件） · 反序列化加载引擎
TensorRTINT8
10
量化后精度评估
准备验证集 · 计算mAP（IoU阈值0.5 · 对比FP32与INT8的精度差异
量化后精度评估准备验证集
11
逐层精度分析
使用TensorRT的Polygra… · 导出每层输出 · 对比FP32与INT8的余弦相似度
逐层精度分析TensorRT
12
敏感层回退策略
什么是敏感层回退 · 如何在TensorRT中设置层精度（… · 回退到FP16或FP32
敏感层回退策略什么是敏感层回退
13
量化感知训练（QAT）入门
QAT原理（模拟量化） · 与PTQ（训练后量化）的区别 · 何时需要QAT
QAT量化感知训练
14
YOLOv11 QAT实战（一）
在YOLOv11训练脚本中插入量化节… · 设置量化配置（QConfig） · 指定量化后端（fbgemm/qnnp…
YOLOv11QAT
15
YOLOv11 QAT实战（二）
训练过程中的量化参数更新（min/m… · 冻结BN层 · 微调策略（学习率1e-5）
YOLOv11QAT
16
YOLOv11 QAT模型导出与INT8推理
将QAT模型导出为ONNX · 使用TensorRT加载QAT模型 · 跳过校准步骤
YOLOv11QAT
17
ONNX Runtime INT8量化
使用ONNX Runtime的量化工… · 静态量化（StaticQuantiz… · 动态量化（DynamicQuanti…
ONNXRuntime
18
ONNX Runtime INT8推理部署
加载量化后的ONNX模型 · 配置Session选项（Execut… · GraphOptimizationL…
ONNXRuntime
19
OpenVINO INT8量化
使用OpenVINO的Post-Tr… · 命令行量化流程 · Accuracy Checker工具
OpenVINOINT8
20
NVIDIA Jetson平台INT8部署
Jetson Orin/NX上的Te… · 内存优化（Pinned Memory… · 多流推理
NVIDIAJetson
21
INT8模型在边缘设备上的优化
模型剪枝+量化联合优化 · 通道剪枝（Channel Pruni… · 知识蒸馏（Knowledge Dis…
INT8模型
22
量化模型的推理加速对比
FP32 vs FP16 vs IN… · 吞吐量对比（FPS） · 显存占用对比
量化模型的推理加…FP32
23
常见量化问题与调试
精度骤降（Accuracy Cras… · NaN/Inf问题 · 校准数据过拟合
常见量化问题调试
24
量化模型的鲁棒性测试
对抗样本测试 · 不同光照条件下的推理稳定性 · 量化模型对输入噪声的敏感度分析
量化模型的鲁棒性…对抗样本测试
25
多Batch与动态Shape量化
动态Shape在INT8下的挑战 · TensorRT的优化策略（Opti… · 设置min/opt/max shap…
BatchShape
26
INT8模型在CPU上的部署
使用ONNX Runtime的MLA… · Intel OpenVINO CPU… · AVX512指令集加速
INT8CPU
27
INT8模型在GPU上的部署
CUDA核心与Tensor Core… · INT8 Tensor Core使用… · cuBLAS INT8 GEMM
INT8GPU
28
量化模型的CI/CD集成
自动化量化流水线（Jenkins/G… · 精度回归测试 · 性能基准测试
CI/CD量化模型的
29
YOLOv11 INT8量化实战案例（一）
交通场景目标检测（车辆 · 行人） · 量化前后精度对比（mAP 0.72…
YOLOv11INT8
30
YOLOv11 INT8量化实战案例（二）
工业缺陷检测（PCB板 · 焊缝） · 量化模型在Jetson Orin N…
YOLOv11INT8