VIP20
本课程属于：008-TinyML模型量化与INT8校准 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

PTQ量化scale zero-point检查与误差定位

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
量化基础
定点与浮点表示 · 对称/非对称量化 · 量化公式推导
量化基础定点
03
PTQ流程概览
数据校准 · 权重/激活量化 · 量化参数计算
PTQ流程概览
04
scale与zero-point的数学原理
量化误差来源 · 舍入误差 · 裁剪误差
scalezero-point
05
scale计算常用方法
MinMax · Percentile · MSE/KL散度
scale计算常用方法
06
zero-point的作用与计算
非对称量化中的偏移 · 零点对齐 · 整数表示范围
zero-point的作用
07
量化参数检查工具
如何读取模型中的scale和zero… · 可视化工具 · 调试接口
量化参数检查工具scale
08
权重与激活的分布分析
直方图 · 统计特征 · 异常值检测
权重激活的分布分析
09
逐层误差定位方法
层输出对比 · 余弦相似度 · 均方误差
逐层误差定位方法层输出对比
10
敏感层识别
哪些层对量化更敏感 · 如何通过敏感性分析定位关键层
敏感层识别哪些层对量化更敏…
11
scale与zero-point错误类型
数值溢出 · 精度下降 · NaN/Inf
scalezero-point
12
检查scale与zero-point的常见陷阱
校准集偏差 · 批次效应 · 动态范围变化
scalezero-point
13
误差定位流程
从整体精度到逐层分析 · 二分法定位 · 对比实验设计
误差定位流程从整体精度到逐层…
14
案例实战
使用PyTorch实现PTQ并检查s…
案例实战PyTorch
15
案例实战
使用ONNX Runtime量化并定…
案例实战ONNX
16
案例实战
TensorRT PTQ中的scal…
案例实战TensorRT
17
校准集设计
如何选择代表性数据 · 校准集大小 · 数据增强对scale的影响
校准集设计如何选择代表性数…
18
量化参数微调
手动调整scale/zero-poi… · 混合精度量化 · 每通道/每张量量化
量化参数微调scale/zero-p…
19
误差传播分析
量化误差如何逐层累积 · 残差连接的影响 · 跳跃连接
误差传播分析量化误差如何逐层…
20
常见问题与解决方案
精度下降严重 · 特定层输出异常 · 模型输出偏差
常见问题解决方案
21
自动化检查工具开发
编写脚本批量检查scale/zero… · 生成报告
自动化检查工具开…scale/zero
22
与训练后量化优化结合
量化感知训练（QAT）与PTQ对比 · 何时需要QAT
训练后量化优化结…QAT
23
硬件相关考虑
不同硬件（CPU/GPU/NPU）对… · 对齐要求
硬件相关考虑CPU/GPU/NPU
24
高级主题
动态量化 · 混合精度量化 · 量化参数搜索（如QAQ）
高级主题动态量化
25
误差定位实战
从模型输出反推 · 逐层打印中间结果 · 使用hook
误差定位实战从模型输出反推
26
案例实战
图像分类模型（ResNet）的PTQ…
案例实战ResNet
27
案例实战
目标检测模型（YOLO）的scale…
案例实战YOLO
28
案例实战
NLP模型（BERT）的量化误差定位…
案例实战NLP
29
综合项目
构建一个PTQ量化检查与误差定位工具… · 包含数据加载 · 分析
综合项目PTQ
30
课程总结与进阶
常见误区回顾 · 最佳实践 · 学习资源
课程总结进阶