VIP20
本课程属于：035-工业缺陷检测模型移植实战 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

模型量化后精度损失修复实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
量化基础回顾
什么是模型量化 · 量化的数学原理（对称/非对称量化） · 量化精度损失的根源分析
量化基础回顾什么是模型量化
02
精度损失诊断工具
使用torch.profiler分析… · 量化前后激活值分布对比（直方图） · 定位敏感层（Layer-wise S…
精度损失诊断工具torch.profil…
03
修复策略总览
量化感知训练（QAT） · 部分量化（Partial Quant… · 混合精度量化（Mixed Preci…
修复策略总览QAT
04
校准数据集优化
如何选择代表性校准集 · 校准集大小对精度的影响 · 使用KL散度优化校准集分布
校准数据集优化如何选择代表性校…
05
量化感知训练（QAT）实战
在PyTorch中插入伪量化节点（F… · QAT训练流程（从预训练模型开始） · 调整学习率与BN层冻结策略
QAT量化感知训练
06
部分量化与敏感层回退
自动识别敏感层并回退到FP16/FP… · 手动指定回退层（代码示例） · 在TensorRT中实现层级别精度控…
部分量化敏感层回退
07
混合精度量化（INT8+FP16）
为什么需要混合精度 · 在NVIDIA TensorRT中配… · 在ONNX Runtime中设置混合…
INT8+FP16混合精度量化
08
量化后微调（Post-Training Fine-tuning）
使用少量数据微调量化模型 · 只微调BN层参数 · 只微调特定层（Adapter-sty…
Post-Trainin…Fine-tuning
09
逐通道量化（Per-channel Quantization）修复
逐层量化 vs 逐通道量化 · 在PyTorch中启用逐通道量化 · 对卷积层和全连接层的不同影响
Per-channelQuantization
10
激活值截断（Clipping）优化
MinMax · Percentile · KL散度截断方法对比
Clipping激活值截断
11
量化噪声分析与抑制
量化噪声的来源（舍入误差 · 截断误差） · 使用噪声注入模拟量化效果
量化噪声分析抑制
12
权重与激活值的不同量化策略
权重用Per-channel · 激活用Per-tensor · 为什么这样组合
权重激活值的不同量化…
13
Batch Normalization融合与量化
BN融合到卷积层后的量化影响 · QAT中BN层的处理技巧 · 融合后的精度补偿
BatchNormalizatio…
14
量化后精度评估指标
Top-1/Top-5准确率 · mAP（目标检测） · PSNR/SSIM（图像超分）
量化后精度评估指…Top-1/Top-5
15
常见模型架构的量化敏感性分析
ResNet vs MobileNe… · 为什么小模型量化更难 · 注意力机制的量化问题
常见模型架构的量…ResNet
16
Transformer/BERT量化修复
Softmax层的量化陷阱 · LayerNorm的量化方案 · GELU激活函数的量化处理
Transformer/…量化修复
17
卷积神经网络（CNN）量化修复
深度可分离卷积的量化难点 · Add层的精度损失 · 激活函数（ReLU/Swish）的量…
CNN卷积神经网络
18
目标检测模型（YOLO/SSD）量化修复
检测头的量化敏感性 · NMS的量化影响 · Bounding Box回归的精度补…
YOLO/SSD目标检测模型
19
图像超分/生成模型量化修复
生成对抗网络（GAN）的量化挑战 · 上采样层的量化处理 · 感知损失与量化精度的权衡
图像超分生成模型量化修复
20
语音/音频模型量化修复
Mel频谱提取的量化 · RNN/LSTM的量化难点 · 流式模型的量化部署
语音音频模型量化修复
21
多模态模型量化修复
视觉-语言模型的量化策略 · 不同模态的量化精度差异 · 跨模态对齐的量化影响
多模态模型量化修…视觉
22
量化工具链实战（PyTorch）
torch.quantization… · Eager Mode vs FX G… · 自定义量化配置（QConfig）
PyTorch量化工具链实战
23
量化工具链实战（TensorRT）
TensorRT INT8校准流程 · 自定义校准器（IInt8Calibr… · 动态形状下的量化
TensorRT量化工具链实战
24
量化工具链实战（ONNX Runtime）
ONNX量化工具（onnxrunti… · QDQ格式理解 · 算子融合与量化
ONNXRuntime
25
量化工具链实战（TFLite）
TFLite量化流程 · 动态范围量化 vs 全整数量化 · Delegate量化支持
TFLite量化工具链实战
26
量化精度损失的自动化修复框架
AutoQ · QAT自动化搜索 · 贝叶斯优化搜索量化参数
量化精度损失的自…AutoQ
27
量化模型部署中的数值稳定性问题
不同硬件（GPU/CPU/NPU）的… · 跨平台精度对齐 · FP16 vs BF16的选择
量化模型部署数值稳定性问题
28
量化模型与原始模型的精度对比实验设计
如何设计公平的对比实验 · 统计显著性检验 · A/B测试框架
量化模型原始模型的精度对…
29
量化精度修复的工程化落地
CI/CD中集成量化精度检查 · 量化模型版本管理 · 精度回退机制
量化精度修复的工…CI/CD
30
综合实战案例
从FP32模型到INT8部署的完整精… · 包含诊断 · 修复
综合实战案例FP32