课程导入：TinyML与关键点检测概述、Ethos-U处理器简介、课程目标与学习路径

欢迎来到《TinyML关键点检测模型在Ethos-U上的部署指南》的第一章。在正式开始技术细节之前，我们需要先建立一个宏观的认知框架：TinyML解决什么问题？关键点检测在嵌入式场景中扮演什么角色？Arm Ethos-U处理器为何成为这一领域的重要硬件平台？以及，你将通过本课程获得哪些能力、沿着怎样的路径进阶。本章将为你铺设一条从“概念认知”到“工程实践”的清晰跑道，确保后续每一章的代码、编译、算子映射与性能调优工作，都建立在对全局架构的深刻理解之上。

1.1 TinyML：在资源约束下释放智能

TinyML（微型机器学习）是机器学习与嵌入式物联网系统的交叉领域，其核心目标是在功耗、内存、算力都极度受限的微控制器（MCU）或极低功耗处理器上，部署和运行机器学习推理模型。与云端AI不同，TinyML强调本地化处理、低延迟、数据隐私和极低功耗。一个典型的TinyML设备可能只有几百KB的Flash和几十KB的RAM，主频在几十MHz到几百MHz之间，功耗预算往往在毫瓦级甚至微瓦级。

在TinyML的工程实践中，我们通常面临三个核心约束：存储容量（模型权重和中间特征图不能超出Flash/RAM）、计算能力（MAC运算总量受限于CPU或NPU的吞吐）、功耗预算（电池供电设备要求平均电流极低）。为了满足这些约束，模型压缩技术成为关键，包括权重量化（如从FP32降到INT8）、权重剪枝、知识蒸馏等。其中，INT8量化是当前工业界最常用的手段，它可以将模型体积缩小4倍，并在支持整数指令的硬件上获得显著加速。

1.2 关键点检测：从图像到坐标的回归任务

关键点检测（Keypoint Detection）是计算机视觉中的一类重要任务，其目标是从图像或视频帧中定位出具有语义含义的特定点坐标。在TinyML场景中，最常见的应用包括人体姿态关键点（如手腕、肘部、肩部）、手势关键点（如指尖、指关节）、面部特征点（如眼角、鼻尖）以及物体部件定位（如机械臂抓取点）。与图像分类（输出类别概率）不同，关键点检测本质是一个回归问题，模型输出的是每个关键点的归一化或绝对坐标值。

在嵌入式部署中，关键点检测模型通常采用轻量级卷积神经网络（CNN）作为骨干网络，例如MobileNetV2、EfficientNet-Lite或自定义的深度可分离卷积堆叠。模型的输出层通常是一个全连接层或1x1卷积层，输出维度为 2 × K（K为关键点数量，每个点包含x和y坐标）。为了适应Ethos-U的硬件特性，模型设计时需要特别注意：

• 张量布局：Ethos-U对特征图的通道顺序（NHWC或NCHW）有特定偏好，通常NHWC在硬件中映射效率更高。
• 激活函数：ReLU和ReLU6在INT8量化下表现稳定，而Sigmoid或Tanh在低比特量化时精度损失较大，建议用ReLU系列或Hard-Sigmoid替代。
• 输出层处理：坐标回归的最后一层通常不量化或使用较高比特精度（如INT16），以保证坐标精度。

1.3 Ethos-U处理器：为TinyML而生的NPU

Arm Ethos-U系列是专为Cortex-M和Cortex-R系列处理器设计的神经网络加速单元（NPU），目前主要包含Ethos-U55和Ethos-U65两个型号。Ethos-U55面向极致低功耗的嵌入式设备，通常与Cortex-M55或Cortex-M33搭配；Ethos-U65则支持更大的系统内存，可与Cortex-M55或更高性能的Cortex-A系列搭配。Ethos-U的核心价值在于：它通过硬件方式高效执行卷积、深度可分离卷积、全连接、池化等算子，并针对INT8/INT16量化数据进行了深度优化。

从架构角度看，Ethos-U采用可配置的MAC阵列，每个周期可以执行数百到数千次乘累加运算。它拥有独立的数据路径和存储控制器，可以高效地从SRAM或外部存储器中读取权重和特征图，并通过命令流（Command Stream）机制接收CPU下发的推理任务。CPU（如Cortex-M55）负责运行控制代码、预处理输入数据、解析NPU输出，而Ethos-U则专注于密集的矩阵运算。这种异构计算模式使得整体能效比（TOPS/W）远高于纯CPU实现。

1.4 课程目标与学习路径

本课程的目标是让你掌握一套完整的、可复用的“从TensorFlow模型到Ethos-U可执行程序”的部署流程。完成本课程后，你将能够：

1. 独立完成关键点检测模型的训练后量化（PTQ）或量化感知训练（QAT），并评估量化精度损失。
2. 使用Arm Vela编译器将TFLite模型转换为Ethos-U可执行的 .vela 二进制文件，并理解编译日志中的性能指标。
3. 在STM32U5或Arm Corstone-300/310参考设计上，集成CMSIS-NN库和Ethos-U驱动，编写推理主程序。
4. 使用性能分析工具（如Arm Cycle Model或实际板卡上的硬件计数器）定位系统瓶颈，并针对内存布局、算子调度进行调优。

学习路径分为四个阶段，每个阶段都有明确的交付物：