课程导入：学习目标、适用人群、课程结构与环境准备

嵌入式机器学习（TinyML）正从实验室走向量产，而推理耗时（Inference Latency）是衡量模型能否在资源受限设备上落地的最核心指标之一。CMSIS-NN作为ARM Cortex-M系列处理器上的神经网络内核加速库，与TFLite Micro（TensorFlow Lite for Microcontrollers）的运行时调度机制深度耦合，二者协同工作时，推理耗时的构成、瓶颈与优化路径与纯软件层面的分析截然不同。本章作为整个课程的开篇，将明确学习目标、界定适用人群、拆解课程结构，并指导你完成软硬件环境的搭建——这是后续所有耗时测量、瓶颈定位与优化实验的基础。

1.1 学习目标：从“能跑”到“可量化”

本课程的核心目标不是教你如何训练一个模型，也不是单纯演示如何部署一个Demo，而是建立一套面向推理耗时的系统化分析与优化能力。完成本课程后，你应该能够回答以下五类问题：

• 耗时构成：一次完整的推理调用，时间消耗在哪些环节？是算子计算、内存拷贝、还是调度开销？
• 加速原理：CMSIS-NN通过哪些技术手段（SIMD指令、数据重排、查表法）减少计算周期？其加速上限在哪里？
• 测量方法：如何用硬件定时器（DWT->CYCCNT）或软件计时函数精确测量单次推理耗时？如何排除中断干扰？
• 瓶颈定位：当推理耗时超出预期时，如何通过profiling工具定位到具体算子或内存访问模式？
• 优化决策：面对一个具体的模型和硬件，应该优先调整算子融合策略、内存布局，还是量化参数？

这些目标层层递进，从“理解”到“应用”再到“分析评价”，对应布鲁姆认知目标分类中的高阶层次。课程特别强调“可量化”这一原则——任何优化手段，如果没有测量数据支撑，都不算有效结论。

1.2 适用人群：谁需要这门课？

本课程面向具有嵌入式C语言基础和基本机器学习概念的工程师。具体而言，以下四类人群将从中获得最大收益：

如果你对ARM Cortex-M内核的流水线、存储层次（Flash/SRAM/Cache）和SIMD指令集有基本了解，学习效果会更好。但即使这些概念较为陌生，课程也会在相关章节补充必要的背景知识。

1.3 课程结构：五阶段递进式设计

整个课程共30章，分为五个阶段，每个阶段解决一类核心问题。这种结构设计遵循“原理→方法→实践→综合”的认知规律：

1. 基础篇（第1-6章）：环境搭建、CMSIS-NN架构解析、TFLite Micro运行时机制、硬件定时器原理。目标是建立“硬件-软件-框架”三者关系的整体认知。
2. 方法篇（第7-12章）：耗时测量工具（DWT、Cycle Counter、GPIO翻转法）、Profiling方法、内存带宽分析、算子耗时拆解。目标是掌握“如何准确测量”和“如何拆解耗时”。
3. 优化篇（第13-22章）：卷积/深度可分离卷积/全连接层的CMSIS-NN加速细节、内存复用策略、算子融合、量化对耗时的影响。目标是学会“如何针对性优化”。
4. 实战篇（第23-27章）：三个完整案例——图像分类（MobileNetV1）、关键词唤醒（DS-CNN）、异常检测（Autoencoder）。每个案例从模型选择到最终调优全流程演示。
5. 总结篇（第28-30章）：性能评估报告模板、常见陷阱清单、优化决策树。目标是沉淀方法论，形成可复用的工程模板。

1.4 环境准备：硬件平台与软件工具链

本课程所有实验基于STM32F746G-DISCO开发板（Cortex-M7内核，主频216MHz，内置1MB Flash和320KB SRAM）。选择该平台的原因有三：一是Cortex-M7支持双发射流水线和SIMD指令，能充分体现CMSIS-NN的加速效果；二是STM32CubeIDE集成了完整的调试和性能分析工具；三是该开发板价格适中，易于获取。

1.4.1 硬件清单

• 主控板：STM32F746G-DISCO（板载ST-LINK调试器，无需额外购买）
• 调试器：板载ST-LINK/V2-1，支持SWD接口和虚拟串口
• 供电：USB Micro-B线缆（数据+供电）
• 可选：外接逻辑分析仪（用于GPIO翻转法验证时序）

1.4.2 软件工具链安装步骤

1. 安装STM32CubeIDE（版本≥1.13.0）：从ST官网下载，安装时勾选“STM32F7系列支持包”。该IDE基于Eclipse，集成了编译器、调试器和性能分析插件。
2. 获取TFLite Micro源码：使用Git克隆TensorFlow仓库，并切换到与CMSIS-NN兼容的版本（推荐v2.10.0或更新）。
3. 配置CMSIS-NN：TFLite Micro的TensorFlow Lite for Microcontrollers示例中已包含CMSIS-NN的移植代码，但需要手动启用。在构建配置中定义CMSIS_NN宏。
4. 验证工具链：编译并运行自带的“hello_world”示例，通过串口输出确认环境正常。

// 在STM32CubeIDE中启用CMSIS-NN的构建配置示例
// 在C/C++ Build → Settings → Tool Settings → MCU Compiler → Preprocessor 中添加：
CMSIS_NN
ARM_MATH_DSP
ARM_MATH_LOOPUNROLL

1.4.3 耗时测量基础设施

在开始任何实验之前，必须先建立可靠的耗时测量手段。本课程统一使用DWT->CYCCNT（数据观察点与跟踪单元的周期计数器）作为计时基准，因为它能提供精确到单个CPU周期的分辨率，且开销极低（仅两条指令）。

// 初始化DWT周期计数器
void DWT_Init(void) {
    CoreDebug->DEMCR |= CoreDebug_DEMCR_TRCENA_Msk;
    DWT->CYCCNT = 0;
    DWT->CTRL |= DWT_CTRL_CYCCNTENA_Msk;
}

// 测量函数耗时（单位：CPU周期）
uint32_t measure_cycles(void (*func)(void)) {
    uint32_t start = DWT->CYCCNT;
    func();
    return DWT->CYCCNT - start;
}

1.4.4 环境验证实验：首次耗时测量

为了确认环境准备无误，我们进行一个最小化验证实验：测量一个空函数调用的耗时，以及一个简单的整数加法操作的耗时。这能帮助我们校准测量工具本身的开销。

如果测量结果与预期偏差超过50%，请检查：编译器优化级别是否设置为-O2或更高（否则函数调用开销会异常增大）；是否启用了Cache（如果启用，首次访问会有冷启动延迟）；DWT时钟配置是否正确。