课程导入：学习目标、适用人群、课程结构、环境准备与整体学习路径

TFLite Micro 是 TensorFlow Lite 面向微控制器（MCU）的推理运行时，其核心挑战在于如何在 KB 级内存、MHz 级主频的嵌入式设备上高效执行神经网络算子。CMSIS-NN 是 ARM 针对 Cortex-M 系列处理器优化的神经网络内核库，通过 SIMD（单指令多数据）、循环展开和定点量化技术，将算子性能提升 4~6 倍。然而，并非所有 TFLite Micro 算子都能映射到 CMSIS-NN 的优化内核上——当算子类型、数据布局或量化参数不匹配时，运行时将自动回退（fallback）到通用 C 实现。这种回退机制虽然保证了功能正确性，却可能带来 3~10 倍的性能落差。本课程将系统拆解 TFLite Micro 中 CMSIS-NN fallback 的触发条件、性能对比方法、优化策略与工程落地路径，帮助学员在真实项目中精准识别性能瓶颈并制定有效的算子替换方案。

上图展示了 TFLite Micro 从模型文件到算子执行的完整链路。模型经过转换器生成量化后的 .tflite 文件，由解释器加载并通过算子调度器分发。调度器根据算子类型、数据格式和 CMSIS-NN 内核的匹配情况，决定走优化路径还是回退路径。本课程将围绕这一核心链路，从环境搭建到性能剖析，再到优化实践，逐步构建学员的工程能力。

1.1 学习目标：从“能跑”到“跑得快”

本课程的学习目标分为四个层级，层层递进，确保学员既能掌握理论基础，又能落地工程实践。

1.2 适用人群：嵌入式与 AI 的交叉领域工程师

本课程面向以下三类人群，每类人群都能从课程中获得针对性的价值：

• 嵌入式软件工程师：已有 Cortex-M 开发经验，希望将 AI 推理能力集成到现有产品中，需要理解 TFLite Micro 的算子执行细节，避免性能陷阱。
• AI 应用工程师：熟悉 TensorFlow 模型训练与量化，但对 MCU 资源限制缺乏直观认识，需要学习如何针对硬件特性调整模型结构。
• 物联网系统架构师：负责边缘设备选型与方案设计，需要评估不同 MCU 平台上的 AI 推理性能，制定合理的算子加速策略。

学员需具备以下前置知识：C/C++ 编程基础、基本的嵌入式开发经验（GPIO、定时器、中断）、对神经网络基础概念（卷积、全连接、激活函数）有初步了解。若学员对 CMSIS-NN 完全陌生，建议先阅读 ARM 官方文档《CMSIS-NN: Efficient Neural Network Kernels for Arm Cortex-M CPUs》作为预习材料。

1.3 课程结构：30 章递进式学习路径

课程分为五大模块，每个模块聚焦一个核心能力域，模块间存在严格的依赖关系。

课程设计遵循“每章一个核心实验”的原则。第 1~5 章为后续所有实验打基础，第 6 章开始每个实验都要求学员提交可复现的性能数据。建议学员准备一个实验记录本，记录每次修改的代码版本、编译选项和性能数据，形成个人优化案例库。

1.4 环境准备：开发板、工具链与验证流程

本课程推荐使用以下硬件与软件环境，该组合经过课程团队验证，兼容性最佳。

1.4.1 开发板选型

首选 STM32F746G-DISCO 开发板，理由如下：

• Cortex-M7 内核，主频 216MHz，支持 SIMD 指令，是 CMSIS-NN 性能发挥的理想平台
• 板载 32MB SDRAM 和 16MB QSPI Flash，可容纳较大模型
• ST-Link 调试器集成，支持 Cycle Counter 精确测量

备选方案为 STM32H743（Cortex-M7 @480MHz）或 NXP i.MX RT1062（Cortex-M7 @600MHz），但需注意不同厂商的 CMSIS-Pack 版本差异可能影响算子映射行为。

1.4.2 工具链安装

课程统一使用以下工具链版本，避免因版本不一致导致的行为差异：

# 1. 安装 ARM GCC 工具链（版本 10.3-2021.10）
# 下载地址：https://developer.arm.com/tools-and-software/open-source-software/developer-tools/gnu-toolchain/gnu-rm
# 安装后验证：
arm-none-eabi-gcc --version

# 2. 安装 STM32CubeIDE（版本 1.13.0 及以上）
# 包含 ST-Link 驱动、调试器和 CMSIS-Pack 管理

# 3. 获取 TFLite Micro 源码（版本 2.14.0）
git clone https://github.com/tensorflow/tflite-micro.git
cd tflite-micro
git checkout 2.14.0

# 4. 获取 CMSIS-5 源码（版本 5.9.0）
git clone https://github.com/ARM-software/CMSIS_5.git
cd CMSIS_5
git checkout 5.9.0

1.4.3 验证流程

环境准备完成后，需通过一个最小化实验验证工具链正确性：

1. 编译 TFLite Micro 自带的 hello_world 示例，确认基础编译链路通畅。
2. 运行 person_detection 示例，验证 CMSIS-NN 内核是否被正确链接（通过 map 文件检查 arm_convolve_s8 等符号）。
3. 使用 ST-Link 连接开发板，在调试模式下读取 DWT->CYCCNT 寄存器，确认 Cycle Counter 可用。

完成上述三步后，学员应能回答以下问题：我的开发板主频是多少？CMSIS-NN 内核是否被编译进固件？Cycle Counter 的时钟源是什么？这些问题的答案将直接影响后续所有性能实验的数据解读。

1.5 整体学习路径：从理论到实践的闭环

本课程的学习路径遵循“理解→测量→分析→优化→验证”的闭环方法论。每个章节都围绕这一闭环展开，确保学员不仅知道“怎么做”，更理解“为什么这么做”。