课程导入：STM32模型量化部署的背景、学习目标、课程整体框架与适用人群
嵌入式人工智能正在经历从“能跑模型”到“跑好模型”的关键转折。STM32作为全球出货量最大的MCU家族之一，凭借其丰富的产品线、成熟的生态和极低的功耗，成为边缘端推理落地的重要载体。然而，将训练好的深度学习模型部署到仅有几百KB RAM、主频不过百余MHz的Cortex-M内核上，绝非简单的“移植”或“转换”。模型量化——尤其是Int8量化——是打通这一瓶颈的核心技术路径。本课程将围绕STM32平台，系统讲解Int8模型量化的原理、精度评估方法、资源占用分析与工程化部署实践，帮助学员建立从模型训练到嵌入式推理的完整知识闭环。
一、为什么STM32需要模型量化部署
STM32系列MCU的定位是“高性价比、低功耗、实时控制”，其片上资源与云端GPU或边缘Linux板卡有本质差异。以典型的STM32H743为例，其Cortex-M7内核主频480MHz，内部Flash仅2MB，RAM仅1MB。而一个经典的MobileNetV1图像分类模型，FP32权重约16MB，远超片上存储容量；即便勉强放入外部Flash，推理一次也需要数秒甚至更长时间，完全无法满足实时性要求。Int8量化将权重和激活从32位浮点压缩为8位整数，模型体积直接缩小4倍，推理速度提升2~4倍，同时RAM占用大幅下降，使得在STM32上运行轻量级AI模型成为可能。
从产业需求看，智能家电、工业传感器、可穿戴设备、电池供电的物联网终端等场景，都要求在本地完成推理，避免云端通信延迟和隐私风险。STM32凭借其超低功耗待机模式和丰富的外设接口，成为这些场景的理想选择。但“能跑”不等于“跑得好”——量化带来的精度损失、数值范围截断、敏感层退化等问题，需要系统化的评估方法和调优策略。这正是本课程的核心价值所在。
二、课程学习目标
本课程面向已经具备基础嵌入式开发能力和初步深度学习知识的工程师，目标是在完成全部章节学习后，学员能够独立完成一个STM32上的Int8模型量化部署项目，并具备精度与资源的系统评估能力。具体目标分为以下四个层次：
| 目标层次 | 具体能力描述 | 对应章节 |
|---|---|---|
| 原理理解 | 掌握线性量化数学原理、对称/非对称量化差异、逐层与逐通道量化适用场景 | 第2~4章 |
| 工具链操作 | 熟练使用STM32Cube.AI、STM32CubeMX、X-CUBE-AI扩展包完成模型转换与量化 | 第5~8章 |
| 精度评估 | 设计校准数据集、执行量化前后精度对比、定位敏感层并实施混合精度回退 | 第9~14章 |
| 资源优化 | 分析Flash/RAM占用瓶颈、优化推理耗时、在精度与资源之间做出工程权衡 | 第15~22章 |
| 实战落地 | 完成从模型训练到STM32部署的全流程项目，输出评估报告与调优记录 | 第23~30章 |
需要特别强调的是，本课程不追求“万能公式”，而是培养学员的工程判断力。例如，在精度评估环节，学员需要学会区分“整体精度下降”和“个别类别退化”两种不同情况，前者可能需要调整量化粒度，后者则可能需要针对特定层做混合精度处理。这种能力只能通过大量案例分析和动手实践获得。
三、课程整体框架设计
课程共30章，按照“原理→工具→评估→优化→实战”五个阶段递进展开。前4章聚焦量化理论基础，包括数值表示、量化误差来源、校准方法等；第5~8章进入STM32工具链实操，从环境搭建到模型转换；第9~14章是精度评估专题，涵盖评估指标设计、敏感层分析、混合精度策略；第15~22章转向资源评估与优化，包括内存布局、算子优化、推理加速；最后8章通过三个完整项目案例（图像分类、语音关键词识别、异常检测）串联全部知识点，并讲解部署后的长期稳定性监控。
这种设计遵循“认知负荷递减”原则：每章内容控制在45~60分钟学习量，配合课后练习和实验任务。课程中穿插大量来自工业界的真实数据——例如某智能门锁项目在量化后精度从98.2%降至96.7%，通过逐层分析发现是最后一个卷积层的激活值分布过于集中导致，最终通过调整该层的量化尺度参数将精度恢复至97.8%。这类案例帮助学员建立“数据驱动决策”的思维方式。
四、适用人群与学习建议
本课程适合以下三类人群：第一，嵌入式软件工程师，希望为现有产品增加AI能力，需要掌握模型部署的完整流程；第二，算法工程师，需要了解模型在资源受限设备上的表现，从而调整网络结构或训练策略；第三，在校学生或研究人员，希望系统学习边缘AI部署技术，为后续研究或竞赛打基础。学员需要具备C语言编程基础、基本的嵌入式开发经验（如GPIO、UART、定时器），以及初步的深度学习概念（如卷积、池化、全连接层）。
对于完全没有接触过STM32的学员，建议先花一周时间熟悉STM32CubeIDE环境和基本外设操作。对于深度学习基础薄弱的学员，课程在第2章会补充必要的神经网络推理知识，但不会深入训练细节。学习过程中，强烈建议采用“边学边做”的策略：每完成一个章节，就在开发板上验证对应的实验。课程配套的例程代码均基于STM32H743和STM32L496两个平台，覆盖高性能和低功耗两种典型场景。
五、常见误区与学习心态
在课程开始之前，有必要澄清几个常见误区。第一个误区是“量化就是调用一个API的事”。实际上，量化部署涉及数据预处理、校准集选择、算子映射、内存复用等多个环节，任何一个环节处理不当都会导致精度或性能不达标。第二个误区是“精度下降一定是量化造成的”。在部署过程中，输入图像的缩放方式、数据排列格式（NHWC vs NCHW）、甚至编译器优化选项都可能影响最终精度，需要系统排查。第三个误区是“Int8一定比FP32快”。在Cortex-M0等低端内核上，如果没有硬件乘法器或SIMD指令支持，Int8的加速效果可能并不明显，甚至因为反量化操作增加额外开销。
本课程希望培养的，不是“照着教程敲代码”的复制者，而是能够独立分析问题、设计实验、做出权衡的工程师。每一章都会提供“原理讲解→方法演示→案例拆解→误区警示”的完整闭环，帮助学员建立系统化的知识结构。课程中的案例均来自真实项目，但会隐去敏感信息，并适当简化以突出核心问题。
最后，关于课程中的数值示例和实验数据，需要说明的是：不同STM32型号、不同编译器版本、不同优化选项下，性能数据会有显著差异。课程中给出的数据均基于特定软硬件环境（STM32CubeIDE 1.14.0，ARM Compiler 6.18，STM32Cube.AI 9.0.0），学员在自己的环境中复现时，应关注趋势和相对变化，而非数值。这种“环境敏感性”本身就是嵌入式AI工程的重要特征，也是本课程希望传递的核心理念之一。