📚 课程目录第1章课程导论与嵌入式AI概览

1. 课程导论与嵌入式AI概览

大家好，我是你们这门课的主讲。在嵌入式领域摸爬滚打了十几年，从最早的8位单片机到现在的Cortex-M7，我见过太多工程师对AI又爱又怕。爱的是它带来的智能化可能，怕的是那动辄几MB的模型和几百万次的浮点运算。

说实话，几年前我也觉得在MCU上跑AI是天方夜谭。直到有一次，一个客户要求在STM32F4上做一个手势识别，模型大小不能超过200KB，推理时间要小于50ms。当时我硬着头皮上了CMSIS-NN，结果发现——嗯，这事儿还真能成。

先聊聊现状。现在的MCU能做什么AI？我列几个典型的场景：

你想想看，这些场景的共同点是什么？实时性要求高、功耗敏感、成本受限。这不正是MCU的强项吗？

但问题也很明显。一个典型的MobileNetV2模型，在PC上推理一次只要几毫秒，放到STM32上可能要几秒钟。为什么会这样？因为MCU没有GPU，没有大内存，甚至连硬件浮点单元都可能没有。

核心矛盾：深度学习模型的计算量和存储需求，与MCU的有限资源之间存在巨大鸿沟。

量化的本质是什么？说白了，就是用更少的比特数来表示模型参数。

一个标准的32位浮点数，在MCU上做乘法需要几十个时钟周期。但如果换成8位整数，一个周期就能搞定。这差距有多大？我算过一笔账：

数据类型	存储占用	乘法耗时（Cortex-M4）	典型场景
float32	4字节	~14个周期	PC端训练
int8	1字节	1个周期	MCU推理
int4	0.5字节	特殊指令	极端压缩

量化不是没有代价的。精度损失是必然的，关键是怎么把损失控制在可接受范围内。我在项目中遇到过最头疼的问题——量化后模型精度从95%掉到70%，排查了三天才发现是激活值的分布没处理好。

我的经验：量化前一定要做校准数据集，统计每一层的激活值范围。别偷懒，这一步决定了量化质量的底线。

CMSIS-NN是什么？它是ARM官方为Cortex-M系列处理器优化的神经网络推理库。我刚开始用的时候，说实话文档写得挺简略的，但跑起来效果确实惊艳。

它的核心优化思路就两条：

我记得第一次在STM32F746上跑通CMSIS-NN的卷积示例，推理速度比纯C实现快了将近8倍。当时我就觉得——这条路走对了。

注意：CMSIS-NN不是万能的。它只支持特定的算子组合，如果你的模型里有不支持的层（比如某些自定义激活函数），就得自己手写实现。

这门课的目标很明确：让你能独立完成一个嵌入式AI项目的全流程——从模型训练、量化、部署到性能调优。

具体来说，我们会覆盖：

学习路径我建议这样走：先理解量化原理，再动手跑通一个简单的分类模型，然后逐步增加复杂度。别一上来就想跑YOLO，容易劝退。

下面这张图展示了整个课程的知识体系：

硬件方面，我建议准备一块Cortex-M4或M7的开发板，比如STM32F4-Discovery或NUCLEO-F767ZI。软件方面，需要安装ARM MDK或STM32CubeIDE，以及TensorFlow 2.x。

如果你手头没有开发板，也可以用QEMU模拟器先跑跑看。不过我个人还是建议买块板子，毕竟嵌入式开发嘛，不摸到硬件总觉得少了点什么。

课程承诺：学完这门课，你将能够独立完成一个嵌入式AI项目的全流程，从模型训练到MCU端部署，并且知道如何优化到极致。