01
量化基础
什么是模型量化、为什么需要量化、量化与浮点数的对比
入门核心概念
02
INT8量化原理
线性量化与非线性量化、量化参数(scale, zero_point)、对称与非对称量化
原理scale
03
量化感知训练(QAT)入门
QAT原理、伪量化节点(FakeQuant)、QAT训练流程
QAT训练
04
训练后量化(PTQ)入门
PTQ原理、校准数据集、PTQ vs QAT 对比
PTQ校准
05
量化工具链
PyTorch量化工具包、TensorRT量化、ONNX Runtime量化
工具部署
06
量化精度评估
精度损失原因、评估指标(Accuracy, F1, mAP)、精度对比实验设计
评估指标
07
校准方法
最大校准、直方图校准、熵校准(KL散度)、均方误差校准(MSE)
校准KL
08
量化粒度
逐张量量化、逐通道量化、逐组量化
粒度per-channel
09
量化敏感层分析
如何定位精度敏感层、逐层精度损失分析、敏感层回退策略
敏感层分析
10
混合精度量化
原理介绍、敏感层保留FP16/FP32、混合精度配置策略
混合精度FP16
11
量化与批归一化融合
BN融合原理、融合后的量化影响、实战中的BN处理
BN融合优化
12
量化与激活函数
ReLU, GELU, Sigmoid等激活函数的量化处理、激活值分布分析
激活函数分布
13
量化与残差连接
残差结构的量化挑战、残差累加精度控制、实战技巧
残差Add
14
量化与注意力机制
Transformer中QKV的量化、Softmax量化、多头注意力量化
注意力Transformer
15
量化与Embedding层
Embedding量化方法、词向量量化精度控制、查找表量化
Embedding查找表
16
量化与卷积层
卷积核量化、偏置量化、分组卷积量化、深度可分离卷积量化
卷积分组卷积
17
量化与全连接层
全连接层量化、矩阵乘法量化、Batch MatMul量化
全连接MatMul
18
量化与归一化层
LayerNorm量化、BatchNorm量化、InstanceNorm量化
归一化LayerNorm
19
量化与池化层
最大池化量化、平均池化量化、全局池化量化
池化下采样
20
量化与拼接操作
Concat量化、Add量化、逐元素操作量化
拼接逐元素
21
量化部署实战
PyTorch模型导出为量化ONNX、ONNX量化模型验证、TensorRT量化部署
部署ONNX
22
量化精度调优
校准数据集选择策略、校准样本数量影响、量化参数微调
调优校准集
23
量化误差分析
截断误差、舍入误差、饱和误差、量化噪声分析
误差噪声
24
量化与剪枝结合
结构化剪枝+量化、非结构化剪枝+量化、联合优化策略
剪枝压缩
25
量化与蒸馏结合
知识蒸馏+量化、量化感知蒸馏、Teacher-Student量化
蒸馏知识蒸馏
26
量化与硬件适配
CPU量化(AVX2/AVX512)、GPU量化(Tensor Core)、NPU/TPU量化
硬件AVX512
27
量化模型安全
量化后鲁棒性变化、对抗攻击对量化模型的影响、安全量化策略
安全鲁棒性
28
量化模型监控
部署后精度监控、数据漂移检测、量化模型回滚机制
监控漂移
29
量化前沿技术
4-bit量化、2-bit量化、混合精度自动搜索(HAQ)、可微分量化
前沿HAQ
30
量化实战项目
从训练到部署完整流程、精度-速度权衡分析、项目经验总结与避坑指南
项目实战