VIP20
本课程属于：049-AI　ISP混合架构开发 AI视觉与工业视觉 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

NPU部署中的模型量化实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
量化基础概念
什么是模型量化？为什么NPU需要量化…
量化基础概念NPU
02
量化数据类型
INT8 · INT4 · FP16
量化数据类型INT8
03
量化感知训练（QAT）原理
伪量化节点 · 直通估计器（STE） · 训练后量化（PTQ）对比
QAT量化感知训练
04
校准数据集与量化参数
如何选择校准集？KL散度 · MSE · MinMax等校准方法详解
校准数据集量化参数
05
NPU硬件特性与量化约束
NPU的MAC阵列 · 数据通路 · 内存带宽对量化的影响
NPU硬件特性
06
ONNX模型导出与量化
PyTorch模型转ONNX · ONNX Runtime量化工具使用
ONNX模型导出
07
TensorRT量化实战
TensorRT的INT8校准 · 动态范围设置 · 层融合优化
TensorRT量化实战
08
OpenVINO量化工具
NNCF（Neural Networ…
OpenVINO量化工具
09
TFLite量化部署
TensorFlow Lite的量化… · 动态范围量化与全整数量化
TFLite量化部署
10
地平线BPU量化实践
地平线工具链的量化流程 · 校准与精度调优
BPU地平线
11
瑞芯微NPU量化实践
RKNN工具包的量化参数设置与模型转…
NPU瑞芯微
12
算能（SOPHGO）量化实践
TPU-NNTC工具链的量化与编译
SOPHGO算能
13
海思（HiSilicon）NPU量化实践
HiAI DDK的量化接口与部署
HiSiliconNPU
14
全志（Allwinner）NPU量化实践
AXera工具链的量化流程
AllwinnerNPU
15
黑芝麻（Black Sesame）NPU量化实践
工具链使用与精度验证
BlackSesame
16
量化精度评估方法
余弦相似度 · 均方误差（MSE） · Top-1/Top-5准确率对比
量化精度评估方法余弦相似度
17
量化敏感层分析
如何定位量化后精度下降的关键层？逐层…
量化敏感层分析如何定位量化后精…
18
量化回退策略
对敏感层保持FP16/FP32 · 混合精度量化的工程实现
量化回退策略FP16/FP32
19
量化后模型结构优化
算子融合 · 内存重排 · 常量折叠对量化模型的影响
量化后模型结构优…算子融合
20
量化模型推理加速原理
计算密度提升 · 内存带宽节省 · 功耗降低分析
量化模型推理加速…计算密度提升
21
量化部署中的常见问题
精度抖动 · 数值溢出 · 死神经元
量化部署常见问题
22
量化调试工具与技巧
TensorBoard可视化量化误差 · 逐层输出对比
量化调试工具TensorBoard
23
量化模型在边缘设备上的部署
树莓派 · Jetson Nano · RK3588等实战
量化模型边缘设备上的部署
24
量化模型在移动端的部署
Android NNAPI · iOS CoreML的量化支持
量化模型移动端的部署
25
量化模型在云端NPU的部署
华为昇腾（Ascend）量化工具链使…
NPU量化模型
26
量化模型在自动驾驶场景的应用
BEV感知 · 目标检测 · 语义分割的量化实践
量化模型自动驾驶场景的应…
27
量化模型在语音识别场景的应用
Wav2Vec2 · Whisper的量化部署
量化模型语音识别场景的应…
28
量化模型在NLP场景的应用
BERT · LLM的量化（ · AWQ
NLP量化模型
29
量化模型在计算机视觉场景的应用
YOLO系列 · ResNet · ViT的量化对比
量化模型计算机视觉场景的…
30
量化部署全流程实战项目
从PyTorch训练到NPU部署的完…
量化部署全流程实…PyTorch