TinyML基础：定义、应用场景、资源约束与部署流程

TinyML是机器学习与嵌入式系统交叉融合的前沿领域，其核心目标是在毫瓦级甚至微瓦级功耗预算下运行神经网络推理。与云端AI依赖大规模GPU集群不同，TinyML强调在MCU（微控制器）、DSP或极低功耗SoC上完成数据采集、特征提取、模型推理与决策输出。理解TinyML的基础概念、典型场景、资源边界和部署链路，是后续开展功耗曲线采集与阈值验收工作的前提——因为功耗特性本质上由硬件资源约束、模型架构和部署方式共同决定。

2.1 TinyML的核心定义与边界

TinyML并非简单的"小模型在MCU上运行"，而是一套完整的工程方法论。根据TinyML基金会和行业共识，其定义包含三个关键维度：功耗预算（通常低于100mW，典型值在1-10mW）、硬件形态（MCU、eFPGA或超低功耗ASIC）、部署方式（离线推理、本地决策、可选无线通信）。与边缘计算（Edge AI）相比，TinyML更强调极致的资源利用率和能效比——例如在Cortex-M4上运行1D卷积神经网络进行关键词唤醒，仅消耗1.2mW功耗和40KB RAM。

从工程实践角度看，TinyML系统通常包含四个层次：感知层（传感器与模拟前端）、处理层（MCU与神经网络加速器）、执行层（执行器与通信模块）、电源管理层（电池、LDO、DC-DC）。这四个层次共同决定了系统的功耗曲线形态。例如，感知层中的MEMS加速度计在待机时消耗2µA，但开启FIFO缓冲后电流升至180µA；处理层在空闲时进入WFI（Wait For Interrupt）状态，电流可降至5µA，而推理时峰值电流可达15mA。这种数量级的差异正是功耗曲线采集需要精确捕捉的对象。

2.2 典型应用场景与功耗敏感型案例

TinyML的应用场景集中在需要持续感知、本地决策、低功耗无线的领域。下表归纳了五大典型场景及其功耗特征：

以工业电机振动监测为例，这是一个典型的功耗敏感型TinyML案例。系统采用ADXL345加速度计（测量范围±16g，采样率3200Hz），搭配STM32L4系列MCU（Cortex-M4F，80MHz）。模型为2层1D-CNN，参数量12K，量化后模型大小48KB。系统每10分钟唤醒一次，采集2秒振动数据，进行FFT特征提取和推理，然后通过BLE发送结果。整个工作周期持续约3.5秒，平均电流12mA，待机电流3µA。使用500mAh锂电池，理论寿命可达2.3年。但在实际HIL测试中发现，由于LDO静态电流和传感器配置不当，实际待机电流达到12µA，导致寿命缩短至8个月。这个案例说明，功耗验收必须基于真实硬件和完整工作周期，而非理论估算。

2.3 边缘设备资源约束与功耗的耦合关系

边缘设备的资源约束直接影响功耗曲线的形态。理解这种耦合关系是制定功耗阈值的基础。主要约束包括：

• 算力约束：MCU主频通常在16-240MHz之间，算力范围10-400 MOPS。算力越高，推理速度越快，但动态功耗呈线性增长。例如，STM32F4在168MHz下运行MobileNetV1（量化后）需要约350ms，平均电流45mA；而降低到84MHz时，推理时间延长至680ms，但平均电流降至28mA。功耗曲线从"高而短"变为"低而长"。
• 内存约束：SRAM大小决定了模型能否加载中间特征图。当模型超过SRAM容量时，需要采用内存交换或流式推理，这会引入额外的Flash读取功耗。例如，一个需要200KB中间缓冲的模型，在仅有64KB SRAM的MCU上运行，每次推理需要从Flash读取3次中间结果，增加约2.1mJ的能耗。
• 存储约束：Flash容量限制模型大小和代码体积。模型压缩（量化、剪枝）虽然减小了Flash占用，但可能增加推理时的计算量（如反量化操作），导致功耗曲线出现额外的小峰值。
• 外设约束：传感器、ADC、DMA、通信模块的功耗往往超过MCU核心本身。例如，SX1262 LoRa模块在发射时电流高达120mA，是MCU推理功耗的10倍以上。因此，功耗曲线采集必须覆盖整个系统，而非仅关注MCU。

2.4 模型部署流程与功耗验证节点

TinyML模型部署不是简单的"训练-转换-烧录"三步走，而是一个需要反复迭代的工程过程。完整的部署流程包含六个阶段，其中功耗验证贯穿始终：

1. 数据采集与预处理：在目标硬件上采集真实传感器数据，标注异常样本。此阶段需记录传感器工作电流和采样频率，为后续功耗预算提供基线。
2. 模型训练与量化：使用TensorFlow/PyTorch训练浮点模型，然后进行PTQ（训练后量化）或QAT（量化感知训练）。量化到int8后，模型体积减少4倍，推理速度提升2-3倍，但精度可能下降1-3%。此阶段需要评估量化对功耗的影响——int8 MAC操作比float32节省约70%的动态功耗。
3. 模型转换与优化：将量化模型转换为TFLite-Micro格式，使用X-Cube-AI或STM32Cube.MX进行硬件适配。此阶段可进行算子融合、内存规划，减少中间缓冲区的SRAM占用，从而降低内存访问功耗。
4. 固件集成与编译：将模型与驱动、RTOS（如Zephyr、FreeRTOS）集成。此阶段需配置MCU的时钟树、电源域和低功耗模式。例如，在推理完成后立即进入WFI状态，可节省约80%的空闲功耗。
5. HIL功耗验证：在硬件在环（HIL）环境中，使用高精度电流探头和示波器采集完整工作周期的功耗曲线。验证关键指标：待机电流、峰值电流、平均功耗、工作周期时长。此阶段是阈值验收的核心环节。
6. 阈值验收与部署：根据功耗曲线计算电池寿命，与设计目标对比。若未达标，需回溯到模型压缩、硬件选型或电源管理策略进行优化。

在HIL验证阶段，需要特别关注三个关键测量点：TP1（电池输出端，测量系统总功耗）、TP2（MCU供电轨，测量数字核心功耗）、TP3（传感器供电轨，测量模拟前端功耗）。通过对比三个测量点的数据，可以定位功耗异常的具体模块。

2.5 功耗敏感型应用案例：可穿戴心电异常检测

本案例展示一个完整的TinyML功耗敏感型应用开发与验收过程，重点说明功耗曲线采集如何指导设计决策。

项目背景与约束：某医疗设备公司开发一款24小时动态心电监测贴片，要求使用CR2032纽扣电池（标称容量220mAh），连续工作7天。硬件平台：MAX30001 ECG模拟前端 + nRF52840 MCU（Cortex-M4F，64MHz）+ BLE 5.0。模型任务：检测房颤（AF）和室性早搏（PVC），使用1D-CNN，输入为256点单导联ECG片段（采样率250Hz）。

初始功耗目标：平均电流≤1.3mA（220mAh/7天/24小时），待机电流≤5µA，单次推理能耗≤0.5mJ。

HIL测试初始现象：使用是德科技N6782A电源分析仪（采样率200kS/s）采集功耗曲线，发现以下问题：

• 待机电流实测8.2µA，超出目标5µA的64%。
• 单次推理能耗0.78mJ，超出目标56%。
• BLE广播时出现2.3ms的电流尖峰，峰值达18.5mA。

分析过程：通过TP2（MCU供电轨）和TP3（传感器供电轨）的同步测量，定位到三个问题：

1. MAX30001的FIFO中断配置不当，导致MCU每2ms被唤醒一次（而非预期的10ms），增加了唤醒次数和功耗。
2. 模型推理时，MCU主频固定在64MHz，但实际计算量仅需32MHz即可在10ms内完成。高主频导致动态功耗增加。
3. BLE广播参数使用默认值（间隔100ms，3个通道），实际场景只需每30秒广播一次。

优化措施：

• 调整MAX30001的FIFO水位线，将中断频率从500Hz降至100Hz，待机电流降至4.6µA。
• 在推理阶段动态切换MCU主频至32MHz，推理时间从8ms延长至12ms，但能耗从0.78mJ降至0.41mJ。
• 修改BLE广播参数为间隔30s、1个通道，平均电流降低0.12mA。

结果对比：优化后平均电流1.18mA，待机电流4.6µA，单次推理能耗0.41mJ，满足7天续航目标。实际电池寿命测试为7.8天，与HIL估算值（7.6天）误差小于3%。

复盘经验：功耗优化不是单一维度的调整，而是需要结合硬件配置、软件调度和通信策略的综合优化。HIL功耗曲线采集提供了数据支撑，使得每个优化决策都有量化依据。此外，动态电压频率调节（DVFS）在TinyML中同样有效，但需要评估频率切换的瞬态功耗开销。

2.6 常见误区与总结复盘

在TinyML功耗工程实践中，以下误区需要特别警惕：

• 误区一：只关注平均功耗，忽略峰值电流。峰值电流影响电池内阻压降和LDO选型。例如，一个平均电流1mA但峰值20mA的系统，使用内阻1Ω的纽扣电池时，峰值压降达20mV，可能导致MCU复位。
• 误区二：将MCU数据手册中的待机电流当作系统待机电流。实际系统中，传感器、LDO、上拉电阻等外围器件的漏电流往往超过MCU本身。正确做法是测量整个供电轨的待机电流。
• 误区三：忽略温度对功耗的影响。锂电池在低温下内阻增大，导致峰值压降更严重；MCU的漏电流随温度升高呈指数增长。HIL测试应在目标工作温度范围内进行。
• 误区四：认为量化模型一定比浮点模型功耗低。虽然int8 MAC运算功耗更低，但反量化操作和额外的内存访问可能抵消部分收益。需要实测对比。
• 误区五：只验证"正常工作"功耗，忽略异常路径。例如，传感器通信失败时的重试逻辑、无线重传机制、看门狗复位等异常路径的功耗可能远高于正常路径。