1. 课程导入：学习目标、适用人群、课程结构、环境准备与开发板选择

嵌入式神经网络推理正在从“云端专属”走向“端侧普及”。ARM Cortex-M系列处理器凭借超低功耗、确定性强、生态成熟等优势，成为智能传感器、可穿戴设备、工业控制器和物联网节点的理想算力载体。然而，Cortex-M处理器没有独立的GPU或NPU，其有限的Flash、SRAM和主频使得直接运行TensorFlow Lite或PyTorch Mobile等重量级框架变得不切实际。CMSIS-NN正是ARM官方为解决这一矛盾而推出的软件库——它通过高度优化的内核函数、数据重排策略和指令级加速，在Cortex-M内核上实现了接近理论极限的神经网络推理性能。本章作为整个课程的开篇，将明确学习目标、界定适用人群、拆解课程结构，并指导你完成开发环境与硬件平台的选型与搭建。

上图展示了本章的核心知识框架：学习目标、适用人群、课程结构以及环境准备四个维度相互关联，共同构成课程的基础。其中，环境准备是后续所有实验的前提，开发板选型则直接决定了你可用的CMSIS-NN优化特性（如DSP指令集、M7内核的双精度FPU等）。下面我们将逐一展开。

1.1 学习目标：从“能跑模型”到“懂优化原理”

本课程不是简单的“调库指南”，而是帮助你建立从算法到硬件的完整映射能力。完成本课程后，你将能够：

• 理解CMSIS-NN的软件架构：掌握其与CMSIS-Core、CMSIS-DSP的关系，明确各模块在推理流程中的角色。
• 掌握核心算子的实现原理：包括卷积（Convolution）、深度可分离卷积（Depthwise Convolution）、全连接（Fully Connected）、池化（Pooling）和激活函数（Activation）在Cortex-M上的优化策略。
• 熟练进行模型转换与量化：能够将TensorFlow/Keras或PyTorch训练的模型转换为CMSIS-NN可用的INT8或FP16格式，并理解量化对精度和性能的影响。
• 具备性能分析与调优能力：会使用Cycle Counter、ARM DSP Library基准测试工具，定位推理瓶颈，并通过内存重排、算子融合等手段提升性能。
• 独立完成端侧AI项目部署：从需求分析、模型选型、硬件评估到最终固件交付，形成一套可复用的工程方法论。

1.2 适用人群：你需要具备哪些基础？

考虑到嵌入式AI领域的交叉学科特性，本课程对学员的背景要求是“宽进严出”。具体而言，以下四类人群最适合本课程：

需要特别说明的是，如果你对C语言中的指针、结构体、内存管理尚不熟练，建议在课程前两周额外补习这些内容。CMSIS-NN的源码大量使用了指针运算和内存对齐技巧，扎实的C语言功底是顺利学习的前提。

1.3 课程结构：三十章递进式学习路径

本课程共30章，分为四个递进阶段，每一章都包含“原理讲解→代码分析→实验操作→常见误区”四个固定模块，确保理论与实践不脱节。

1. 基础篇（第1-8章）：从Cortex-M架构特性（流水线、SIMD、FPU）出发，讲解CMSIS-NN的总体框架、数据格式（INT8/FP16）、内存布局和基本算子（加法、乘法、激活）的优化实现。
2. 算子篇（第9-16章）：深入剖析卷积、池化、全连接等核心算子的源码，重点讲解im2col数据重排、矩阵乘优化、循环展开等关键技术。
3. 实践篇（第17-24章）：以图像分类（CIFAR-10）和关键词唤醒（KWS）两个实战项目为主线，完整走通“训练→量化→转换→部署→调试”全流程。
4. 进阶篇（第25-30章）：探讨多核调度（Cortex-M7/M33）、内存压缩、算子融合、混合精度推理以及如何将CMSIS-NN集成到RT-Thread或FreeRTOS中。

1.4 环境准备：Keil MDK与STM32CubeIDE的选择

工欲善其事，必先利其器。对于Cortex-M开发，目前主流IDE有两个选择：Keil MDK（μVision）和STM32CubeIDE。两者各有优劣，我们通过下表进行对比：

对于本课程，我们推荐STM32CubeIDE作为首选环境，原因有三：其一，它完全免费，降低了学习门槛；其二，它集成了STM32CubeMX，可以图形化配置时钟树、GPIO和调试接口，极大减少初始化代码编写时间；其三，GCC工具链对CMSIS-NN的支持同样完善，且便于在CI/CD环境中自动化构建。当然，如果你所在公司已有Keil MDK授权，且你熟悉其调试界面，继续使用Keil也完全可行——本课程的所有代码均遵循CMSIS-Pack标准，在两个IDE下均可直接编译运行。

1.4.1 环境搭建操作流程（以STM32CubeIDE为例）

1. 下载安装：访问ST官网下载STM32CubeIDE（建议1.13.0以上版本），安装时勾选“STM32F7系列支持包”。
2. 安装固件包：打开STM32CubeIDE，通过Help → Manage Embedded Software Packages，安装STM32CubeF7固件包（版本≥1.16.0），其中包含CMSIS-NN库源码。
3. 创建工程：File → New → STM32 Project，选择芯片型号（本课程以STM32F746G-DISCO为例），在“Pinout & Configuration”中配置USART1（用于打印日志）、SysTick（用于计时）。
4. 添加CMSIS-NN库：在工程管理器中右键 → Add Group，将CMSIS-NN的Source目录（位于Drivers/CMSIS/NN/Source）下的所有.c文件添加至工程。
5. 配置全局宏：在工程属性 → C/C++ Build → Settings → Tool Settings → GNU Arm Cross C Compiler → Preprocessor中，添加ARM_MATH_DSP和ARM_MATH_LOOPUNROLL宏定义，以启用DSP指令加速和循环展开优化。

// 验证环境是否搭建成功的示例代码（main.c片段）
#include "arm_nnfunctions.h"
#include "arm_math.h"

int main(void) {
    // 初始化时钟、串口等...
    q7_t input[16] = {1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16};
    q7_t output[16];
    arm_fully_connected_q7(input, NULL, 16, 16, 1, NULL, output, NULL);
    // 若output[0] == input[0]，说明库函数调用成功
    while(1);
}

1.5 开发板选择：从入门到进阶的硬件阶梯

开发板的选择直接影响学习体验。我们根据内核性能和板载外设，将常用开发板分为三个梯队：

1.6 常见误区与本章复盘

在课程导入阶段，学员最容易陷入以下三个误区，我们在此提前预警：

• 误区一：盲目追求高主频开发板。 实际上，CMSIS-NN的性能瓶颈往往不在CPU主频，而在内存带宽和Flash等待周期。Cortex-M7虽然主频高，但若未开启ICache/DCache，性能可能反而不如优化良好的M4。因此，学习重点应放在“如何高效利用现有硬件资源”。
• 误区二：忽略CMSIS-NN的版本差异。 CMSIS-NN v1.x（对应CMSIS 5.x）和v2.x（对应CMSIS 6.x）在API名称和优化策略上有显著差异。本课程基于CMSIS-NN v2.x（随STM32CubeF7 1.17.0版本发布）讲解，若你使用旧版固件包，部分函数名（如arm_convolve_s8）可能不兼容。
• 误区三：只关注推理时间，忽略内存占用。 端侧AI的典型约束是“内存墙”。一个CIFAR-10模型在PC上可能占用几百MB内存，但在Cortex-M7上必须压缩到几百KB。从第一章开始，就要养成使用arm_nn_mat_mult_kernel_s8等函数时，手动计算中间缓冲区大小的习惯。