📚 课程目录第2章 TinyML基础

2、TinyML基础：TinyML定义、典型应用场景、边缘设备资源约束与功耗特性

TinyML（微型机器学习）是指在极低功耗、极小体积、资源受限的嵌入式设备上部署和运行机器学习模型的技术体系。它并非简单地将模型“压缩”后塞进单片机，而是围绕功耗预算、内存上限、算力天花板三重约束，重新设计模型结构、推理引擎和硬件调度策略。理解TinyML的基础边界，是后续定位推理功耗瓶颈、进行DVFS（动态电压频率调整）调参的前提——因为DVFS的本质，就是在硬件资源约束下寻找“性能-功耗”的帕累托最优解。

2.1 TinyML的核心定义与边界

TinyML并非一个严格的学术术语，而是一个工程实践领域。其核心定义包含三个维度：模型维度（参数量通常在数十KB到数百KB之间）、硬件维度（基于ARM Cortex-M系列、RISC-V MCU或低功耗SoC）、功耗维度（平均功耗在1mW-100mW量级，峰值功耗不超过数百mW）。与云端AI不同，TinyML强调本地推理、离线可用、隐私保护、极低延迟，但代价是模型精度和泛化能力受限。

从系统架构看，TinyML设备通常包含传感器接口（I2C/SPI/ADC）、MCU核心（含FPU/DSP扩展）、存储单元（Flash+SRAM）、通信模块（BLE/Sub-GHz）以及电源管理单元（PMIC或LDO）。推理过程涉及数据采集、特征预处理、模型推理、后处理四个阶段，每个阶段的功耗特征差异显著。例如，传感器采样可能仅消耗几十μA，而Flash读取和MAC（乘加）运算则可能消耗数mA电流。

  关键认知：TinyML的“Tiny”不仅指模型小，更指能量预算小。一颗CR2032纽扣电池（标称容量约220mAh）如果持续以10mA放电，只能工作约22小时；而TinyML设备通常要求电池工作数月甚至数年，因此平均电流必须控制在100μA以下。这意味着推理任务必须采用“突发-休眠”模式，DVFS调参的核心目标之一就是缩短突发推理时间、降低峰值电流。

2.2 典型应用场景与功耗特征

TinyML的应用场景可归纳为四类：语音唤醒（如“Hey Siri”）、视觉唤醒（如人形检测）、振动/异常检测（如电机预测性维护）、生物信号处理（如ECG心律失常检测）。不同场景对推理延迟、精度和功耗的敏感度差异很大，这直接影响DVFS调参策略。

场景	模型类型	典型硬件	平均功耗	峰值功耗	延迟要求
关键词唤醒	DS-CNN / LSTM	Cortex-M4F @ 64MHz	0.5-2mW	15mW	<100ms
视觉唤醒	MobileNetV1 0.25	Cortex-M7 @ 200MHz	5-20mW	80mW	<300ms
振动异常检测	1D-CNN / Autoencoder	Cortex-M3 @ 48MHz	0.3-1mW	8mW	<50ms
ECG分析	TCN / 小波+分类器	Cortex-M4 @ 80MHz	1-3mW	25mW	<200ms

从上表可见，视觉类任务功耗最高，因为卷积运算涉及大量内存访问和MAC操作；语音类任务次之，主要消耗在MFCC特征提取和循环网络计算；振动/生物信号任务功耗最低，因为输入维度小、模型结构简单。在DVFS调参时，需要根据任务类型确定CPU频率的“甜点区间”——频率过低会导致推理时间过长，反而增加总能耗（因为休眠时间被压缩）；频率过高则导致动态功耗平方级上升。

2.3 边缘设备资源约束详解

边缘设备的资源约束是TinyML设计的“硬边界”，具体体现在以下四个方面：

算力约束：MCU的算力通常在10-100 GOPS（每秒十亿次操作），且多为定点运算。Cortex-M4F支持单周期MAC（乘加），但缺乏GPU的并行能力。以MobileNetV1 0.25为例，其计算量约21M MACs，在100MHz主频下理论推理时间约210ms，实际考虑内存访问开销后可能达到400-600ms。
内存约束：SRAM通常为64KB-512KB，Flash为1MB-8MB。模型权重、激活值、中间缓冲区必须精打细算。例如，一个100KB的模型权重在256KB SRAM的设备上，留给激活值的空间可能不足64KB，这限制了输入分辨率和批处理大小。
存储带宽约束：Flash读取速度远低于CPU时钟，通常需要插入等待周期。从Flash读取4字节可能消耗2-3个时钟周期，而SRAM只需1个周期。因此，权重驻留策略（全部放SRAM还是部分放Flash）对推理功耗影响显著。
外设竞争约束：ADC采样、DMA传输、通信模块（BLE广播）会与CPU争抢总线带宽和电源轨。例如，BLE在广播时峰值电流可达15mA，如果此时CPU全速推理，总电流可能超过电池瞬时放电能力，导致电压跌落。

常见误区：很多开发者认为“降低CPU频率就一定省电”。实际上，对于计算密集型任务，频率降低会导致推理时间线性增加，而动态功耗与频率成正比、与电压平方成正比。在低电压区间（如0.9V-1.2V），适当提高频率反而能更快完成推理、更早进入休眠状态，从而降低平均功耗。DVFS调参的目标不是“最低频率”，而是“每单位推理任务的最小能量消耗”。

2.4 功耗特性分析与测量基础

TinyML设备的功耗由四部分组成：动态功耗（开关电容充放电，与频率和电压平方成正比）、静态功耗（漏电流，与温度和工艺相关）、外设功耗（传感器、通信模块、LED等）、存储功耗（Flash编程/擦除、SRAM保持）。在推理过程中，动态功耗占主导，但休眠时静态功耗成为关键。

测量功耗需要区分瞬时功耗和平均功耗。瞬时功耗用于分析推理各阶段的电流尖峰，需使用高采样率（≥10kHz）的电流探头或串联采样电阻；平均功耗则通过积分计算，用于评估电池寿命。典型测量方法包括：

在电源输入端串联10mΩ-100mΩ采样电阻，使用差分探头测量电压降，换算为电流。
使用功耗分析仪（如Joulescope、Nordic PPK2）记录电流波形，同步抓取GPIO电平标记推理起止时间。
将电流波形与推理日志对齐，识别各阶段（特征提取、卷积、全连接、后处理）的功耗特征。

// 伪代码：功耗测量与阶段标记
init_power_monitor(sample_rate=10000);
init_gpio_pin(PIN_TRIGGER, OUTPUT);
while (1) {
    gpio_write(PIN_TRIGGER, HIGH);  // 标记推理开始
    inference_start = get_timestamp();
    run_inference();                 // 执行推理
    gpio_write(PIN_TRIGGER, LOW);   // 标记推理结束
    inference_end = get_timestamp();
    log_power_segment(inference_start, inference_end);
    enter_sleep_mode();
}

通过上述方法，可以绘制出“时间-电流”曲线，进而定位功耗瓶颈：如果卷积阶段电流持续偏高，说明MAC运算密集；如果阶段切换时出现电流尖峰，可能是Flash读取或DMA传输导致；如果休眠电流偏高，则需检查外设是否未完全关闭。

2.5 案例拆解：智能门锁的人脸识别功耗优化

背景与约束：某智能门锁产品采用Cortex-M7 @ 200MHz MCU，配备2MB Flash和512KB SRAM，使用4节AA电池供电（总容量约2000mAh）。产品要求：待机电流<50μA，人脸识别单次推理时间<500ms，电池寿命≥6个月（假设每天识别10次）。

初始现象：实测待机电流为80μA（超标），人脸识别平均功耗为180mW，单次推理耗时420ms。计算每日能耗：待机80μA×24h=1.92mAh，识别10次×180mW×0.42s/3600=0.21mAh，合计约2.13mAh/天，理论寿命约939天（约31个月），看似满足要求。但实际测试发现，电池在低温（-10℃）下容量衰减30%，且识别时峰值电流达350mA，导致电池瞬时电压跌落至2.8V以下，触发MCU欠压复位。

分析过程：通过功耗分析仪抓取电流波形，发现识别过程分为三个阶段：图像采集（80ms，平均电流120mA）、模型推理（300ms，平均电流180mA）、结果处理（40ms，平均电流60mA）。其中模型推理阶段电流波动剧烈，峰值出现在卷积层切换时，原因是Flash读取权重与SRAM数据访问重叠导致总线竞争。进一步分析发现，CPU频率在200MHz时，Flash等待周期为3个周期，导致CPU实际利用率仅约60%，大量时间在等待数据。

DVFS调参方案：

将CPU频率从200MHz降至160MHz，电压从1.2V降至1.1V。虽然推理时间从300ms延长至360ms，但动态功耗从180mW降至约120mW（功耗与频率成正比、与电压平方成正比：180×(160/200)×(1.1/1.2)²≈121mW）。
启用Flash预取缓冲区和缓存，将权重读取等待周期从3个周期降至1个周期，实际推理时间反而缩短至330ms。
在图像采集阶段将CPU频率降至80MHz，因为该阶段主要等待传感器数据，CPU负载低。
优化后：单次识别平均功耗约95mW，耗时350ms，峰值电流降至220mA，待机电流通过关闭所有外设降至45μA。

结果对比：每日能耗降至1.08mAh+0.09mAh=1.17mAh，理论寿命提升至1710天（约57个月）。更重要的是，峰值电流降低后，电池电压跌落幅度减小，低温下不再触发复位。

复盘经验：DVFS调参不能只看单一指标，必须结合内存访问模式和外设时序。本案例中，降低频率反而因缓存命中率提升而缩短了推理时间，说明“频率-功耗”并非简单线性关系。此外，峰值电流控制往往比平均功耗更关键，因为它影响系统稳定性。

实践建议：在TinyML项目初期，建议先建立“功耗基线”——记录不同频率、电压、外设状态下的电流数据，形成查找表。后续调参时，根据推理任务的实时性要求，动态选择最优工作点。例如，对于延迟敏感的任务（如语音唤醒），优先保证频率；对于延迟不敏感的任务（如周期性传感器检测），优先降低电压。

2.6 常见误区与总结

在TinyML功耗优化中，以下误区需要特别警惕：

误区一：只优化模型大小，忽略内存访问功耗。模型压缩后，如果权重仍存储在Flash中且未启用缓存，每次推理仍需大量Flash读取，功耗下降有限。
误区二：认为休眠电流可以忽略。对于电池供电设备，休眠电流是待机功耗的主要来源。一个10μA的漏电流在一年内消耗约87.6mAh，相当于一颗纽扣电池容量的40%。
误区三：盲目追求低电压。电压过低会导致SRAM数据保持不稳、Flash读取错误，甚至逻辑混乱。必须在芯片规格书的安全范围内调压。
误区四：忽略温度影响。漏电流随温度指数级上升，高温环境下静态功耗可能增加数倍。DVFS调参需考虑设备工作温度范围。