VIP20

本课程属于：006-CMSIS-NN与ARM Cortex-M推理加速 嵌入式边缘AI与TinyML · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

9. CMSIS-NN量化计算解析：Int8推理与Scale处理

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

了解CMSIS-NN在嵌入式AI中的… · 明确Int8推理与Scale处理的核… · 掌握课程学习路径与目标

课程导入CMSIS-NN

理解线性量化原理 · 掌握scale和zero_point… · 区分对称与非对称量化

量化基础理解线性量化原理

Int8推理概览

分析CMSIS-NN中Int8推理的… · 从输入到输出如何保持量化一致性 · 明确各层间的数据流

Int8推理概览

Scale处理核心

深入解析scale在卷积 · 全连接 · 池化等算子中的传递与融合规则

Scale处理核心

量化参数存储

学习CMSIS-NN中量化参数的存储… · q15_t） · 理解per-tensor与per-c…

量化参数存储CMSIS-NN

卷积层量化计算

剖析CMSIS-NN卷积函数（如ar… · 重点讲解输入 · 权重

卷积层量化计算CMSIS-NN

全连接层量化计算

掌握全连接层（arm_fully_c… · 理解矩阵乘法的量化缩放与输出反量化

全连接层量化计算arm

池化与激活量化

分析最大池化 · 平均池化在Int8下的处理方式 · 以及ReLU等激活函数如何与scal…

池化激活量化

加法与拼接量化

学习元素级加法（arm_elemen… · 掌握多输入scale的协调方法

加法拼接量化

Softmax与量化

理解Softmax在Int8推理中的… · 掌握查找表（LUT）方法及scale…

量化误差来源

识别量化误差的主要来源（舍入 · 截断 · 溢出）

量化误差来源识别量化误差的主…

Scale融合技术

掌握BatchNorm与卷积的量化融… · 理解如何将BN参数合并到卷积的sca… · 减少运行时计算

Scale融合技术

量化推理流程实战

基于CMSIS-NN搭建一个完整的I… · 从模型转换到部署 · 逐步实现量化推理

量化推理流程实战CMSIS-NN

工具链与转换

学习使用TensorFlow Lit… · 导出scale和zero_point

工具链转换

CMSIS-NN算子调用

掌握CMSIS-NN常用算子的API… · 理解参数含义（如input_offs… · output_offset

CMSIS-NN算子调用

内存布局与对齐

分析CMSIS-NN对张量内存布局的… · HWC） · 理解对齐对性能的影响

内存布局对齐

性能优化技巧

学习如何利用CMSIS-NN的优化（… · 循环展开）提升Int8推理速度 · 结合硬件特性调整参数

性能优化技巧CMSIS-NN

精度与性能权衡

通过实验对比不同量化策略（per-t… · 掌握平衡方法

精度性能权衡

常见问题排查

总结Int8推理中常见的错误（如sc… · 溢出 · 精度骤降）

常见问题排查Int8

图像分类 · 使用CMSIS-NN实现Int8图像… · 完成量化

案例实战图像分类

关键词唤醒 · 量化后部署到MCU · 分析scale处理对识别率的影响

案例实战关键词唤醒

异常检测 · 实现Int8推理 · 评估量化后的鲁棒性

案例实战异常检测

多模型协同

探讨多个Int8模型在嵌入式设备上的… · 如何统一scale管理 · 避免冲突

多模型协同Int8

量化感知训练

介绍量化感知训练（QAT）的基本原理 · 以及如何与CMSIS-NN结合 · 提升Int8推理精度

量化感知训练QAT

后训练量化

掌握后训练量化（PTQ）的流程 · 使用校准数据集确定scale · 并优化zero_point以减少误差

后训练量化PTQ

高级Scale处理

深入探讨动态范围量化 · 混合精度量化在CMSIS-NN中的实… · 以及未来趋势

调试与验证工具

学习使用CMSIS-NN提供的测试工… · 验证量化推理的正确性 · 对比浮点结果

调试验证工具

端到端部署：从模型训练 · 量化 · CMSIS-NN集成到MCU运行

综合项目端到端部署

课程总结与进阶

回顾核心知识点 · 总结Int8推理与Scale处理的关… · 提供进一步学习资源和进阶方向

课程总结进阶

结课测试与答疑

设计综合测试题检验学习效果 · 针对常见疑问进行解答 · 巩固课程内容

结课测试答疑