VIP7
本课程属于：128-全志V853边缘AI视觉部署 AI智能与边缘计算工程 · 共 7 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

10. V853模型量化部署：INT8校准、精度评估和性能测试

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
了解V853芯片的AI加速器特性 · INT8量化的意义 · 课程目标与整体学习路径
课程导入V853
02
量化基础
掌握模型量化的基本概念 · 包括定点与浮点 · 量化参数（scale
量化基础掌握模型量化的基…
03
INT8量化原理
深入理解INT8量化的数学原理 · 包括量化公式 · 反量化公式以及量化误差的来源
INT8量化原理
04
V853工具链概览
熟悉V853模型量化部署的完整工具链 · 包括模型转换 · 量化
V853工具链概览
05
环境搭建
学习搭建V853量化部署的开发环境 · 包括安装交叉编译工具链 · NPU SDK
环境搭建V853
06
模型准备
掌握将训练好的模型（如PyTorch · TensorFlow · ONNX）转换为V853支持的格式的…
模型准备PyTorch
07
校准数据集准备
学习如何构建用于INT8校准的校准数… · 包括数据采集 · 预处理
校准数据集准备INT8
08
校准方法
掌握常见的INT8校准方法 · 如MinMax · Percentile
校准方法INT8
09
V853校准流程实操
使用V853工具链执行INT8校准 · 生成量化模型 · 并验证校准过程的正确性
V853校准流程实操
10
量化参数分析
学会查看和分析量化后的scale · zero-point等参数 · 理解其对精度的影响
量化参数分析scale
11
精度评估指标
掌握模型精度评估的常用指标 · 如Top-1准确率 · Top-5准确率
精度评估指标掌握模型精度评估…
12
精度评估流程
学习在V853平台上对量化模型进行精… · 包括加载模型 · 运行推理
精度评估流程V853
13
精度对比分析
对比原始浮点模型与INT8量化模型的… · 分析精度损失的原因
精度对比分析INT8
14
精度调优策略
掌握提升量化模型精度的常用策略 · 如混合量化 · 敏感层分析
精度调优策略掌握提升量化模型…
15
性能测试指标
了解性能测试的关键指标 · 包括推理延迟 · 吞吐量
性能测试指标了解性能测试的关…
16
性能测试方法
学习在V853平台上进行性能测试的方… · 包括使用性能分析工具 · 计时函数
性能测试方法V853
17
性能优化技巧
掌握提升INT8模型在V853上推理… · 如算子融合 · 内存复用
性能优化技巧INT8
18
端到端部署实战
完成一个完整的端到端部署案例 · 从模型训练到INT8量化 · 精度评估
端到端部署实战完成一个完整的端…
19
常见问题与解决
总结V853量化部署中常见的问题 · 如校准失败 · 精度骤降
常见问题解决
20
量化模型调试
学习使用调试工具分析量化模型的行为 · 如打印中间层输出 · 对比浮点与量化输出等
量化模型调试学习使用调试工具…
21
混合精度量化
了解混合精度量化的概念 · 学习如何在V853上对敏感层使用更高…
混合精度量化了解混合精度量化…
22
量化感知训练（QAT）
掌握QAT的原理和实现方法 · 学习如何在训练阶段模拟量化误差 · 提升INT8模型精度
QAT量化感知训练
23
模型压缩与量化结合
了解剪枝 · 蒸馏等模型压缩技术与量化的结合 · 进一步减小模型体积和提升性能
模型压缩量化结合
24
多模型部署
学习在V853上同时部署多个INT8… · 包括内存管理 · 调度策略等
多模型部署V853
25
实时性优化
针对实时应用场景 · 学习如何优化INT8模型的推理延迟 · 满足实时性要求
实时性优化针对实时应用场景
26
功耗与散热考虑
了解V853在运行INT8模型时的功… · 学习功耗优化和散热管理的基本方法
功耗散热考虑
27
案例实战
图像分类模型 · 完成从INT8校准到精度评估和性能测…
案例实战图像分类模型
28
案例实战
目标检测模型：以YOLO或SSD为例 · 完成目标检测模型的INT8量化部署 · 并评估mAP和推理速度
案例实战YOLO
29
案例实战
语义分割模型 · 完成语义分割模型的INT8量化部署 · 评估mIoU和性能
案例实战语义分割模型
30
综合项目与总结
综合运用所学知识 · 完成一个自定义模型的量化部署项目 · 并总结课程要点
综合项目综合运用所学知识