VIP20

本课程属于：015-STM32Cube AI模型部署 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

STM32Cube AI模型量化精度损失排查指南

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 课程结构

课程导入学习目标

STM32Cube AI工具链概览

X-CUBE-AI · STM32CubeMX · STM32CubeIDE的安装配置与…

量化基础概念

定点与浮点 · Q格式 · 缩放因子

量化基础概念定点

STM32Cube AI支持的量化方案

8位 · 16位 · 混合精度

模型量化流程演示

从Keras/TFLite/ONNX…

模型量化流程演示Keras/TFLite…

精度损失评估方法

如何定义精度指标（准确率 · mAP · IoU等）并建立基线

精度损失评估方法如何定义精度指标

量化精度损失常见原因分类

权重分布 · 激活范围 · 异常值

量化精度损失常见…权重分布

使用STM32Cube AI的量化报告

解读validation repor… · confusion matrix · 层级误差统计

校准数据集的选择与准备

代表性数据 · 样本数量 · 数据增强对量化效果的影响

校准数据集的选择准备

量化感知训练（QAT）基础

伪量化节点 · 直通估计器 · 与STM32Cube AI的配合

QAT量化感知训练

后训练量化（PTQ）调优

如何调整校准批次 · 优化缩放因子 · 处理极端值

PTQ后训练量化

层敏感度分析实战

逐层量化误差定位 · 找出精度损失最大的层

层敏感度分析实战逐层量化误差定位

混合精度量化策略

如何为敏感层保留更高精度 · STM32Cube AI中的实现方法

混合精度量化策略如何为敏感层保留…

激活函数与量化

ReLU · sigmoid · tanh

激活函数量化

批归一化（BN）层处理

BN折叠 · 融合对量化精度的影响与调试

卷积层量化细节

权重与激活的量化范围 · 通道级量化与张量级量化的选择

卷积层量化细节权重

全连接与循环层量化

RNN/LSTM/GRU在STM32…

全连接循环层量化

输入输出量化处理

图像预处理 · 归一化 · 后处理对最终精度的影响

输入输出量化处理图像预处理

内存与性能权衡

量化后模型大小 · 推理速度与精度的平衡 · 如何取舍

内存性能权衡

图像分类模型（如MobileNet）…

实战案例1MobileNet

目标检测模型（如YOLO）量化后mA…

实战案例2YOLO

语音或传感器信号模型量化异常分析与处…

实战案例3语音或传感器信号…

使用调试工具

STM32Cube Monitor · 串口打印 · 日志分析

使用调试工具STM32Cube

常见错误与陷阱

数据格式不匹配 · 算子不支持 · 量化范围溢出

常见错误陷阱

精度损失排查方法论

系统化流程 · 假设驱动 · 二分法定位

精度损失排查方法…系统化流程

模型结构优化以适配量化

轻量化设计 · 避免极端值 · 使用对称激活函数

模型结构优化以适…轻量化设计

量化与硬件加速

STM32的DSP指令 · NPU支持 · CMSIS-NN对量化模型的影响

量化硬件加速

自动化评估与回归测试

构建量化精度测试脚本 · 持续集成防止回归

自动化评估回归测试

综合项目实战

从零开始部署一个真实模型 · 完成量化 · 排查

综合项目实战从零开始部署一个…

课程总结与进阶路径

常见问题速查表 · 资源推荐 · 社区支持

课程总结进阶路径