2、TinyML基础：TinyML定义、典型应用场景、边缘设备硬件约束与功耗特性

TinyML是机器学习与嵌入式物联网系统交叉融合的前沿领域，其核心目标是在毫瓦级甚至微瓦级功耗预算下，于资源极度受限的MCU（微控制器）上部署和运行推理模型。理解TinyML的边界条件，是后续进行功耗瓶颈profiling与优化的前提。本章将系统梳理TinyML的定义与价值、典型应用场景、边缘设备的硬件约束，并重点剖析其功耗特性与构成模型，为后续章节的量化分析与定位打下坚实基础。

上图展示了TinyML系统从硬件约束到功耗优化链路的整体框架。在实际工程中，功耗瓶颈往往不是单一因素造成的，而是计算、内存访问、外设调度与系统状态管理共同作用的结果。因此，建立系统级的功耗视图是profiling的第一步。

2.1 TinyML的定义与核心特征

核心原理：TinyML并非简单的“在MCU上跑神经网络”，而是一套面向极致资源约束环境的机器学习工程范式。其定义包含三个关键维度：硬件维度（面向MCU、DSP或极低功耗加速器）、软件维度（依赖模型压缩、量化、编译优化技术栈）、系统维度（强调端侧实时推理与低功耗运行）。与云端AI不同，TinyML不依赖网络连接，推理过程在本地完成，数据不出设备，从而满足低延迟、隐私保护和离线可用性需求。

从工程实践角度看，TinyML系统通常具备以下量化特征：

资源维度	典型范围	对功耗的影响
Flash存储	256KB ~ 2MB	模型大小直接决定Flash读取功耗
SRAM	64KB ~ 512KB	激活值/中间缓冲区占用，影响动态功耗
CPU频率	16MHz ~ 200MHz	频率与电压呈近似平方关系影响功耗
算力	10 ~ 500 MOPS	推理延迟与功耗的权衡核心
待机功耗	1µA ~ 10µA	决定电池寿命的下限

2.2 典型应用场景与功耗敏感度分析

判断方法：选择TinyML应用场景时，需要根据任务的数据类型、实时性要求和功耗预算进行匹配。以下是三类最典型的场景及其功耗特征：

• 关键词唤醒（KWS）：设备长期处于麦克风监听状态，要求极低待机功耗（<1mW），仅在检测到唤醒词后启动完整推理。功耗瓶颈在于音频前端（ADC+PDM接口）的常开功耗与DSP流水线的激活功耗。
• 预测性维护（振动分析）：工业传感器节点以1kHz~10kHz采样振动数据，进行FFT或CNN异常检测。功耗瓶颈在于高频采样的ADC功耗与无线传输功耗，推理本身占比相对较小。
• 可穿戴健康监测（ECG/PPG）：设备需连续运行数天至数周，对心率、血氧等信号进行实时分析。功耗瓶颈在于多通道模拟前端（AFE）的功耗、特征提取的DSP运算以及周期性无线同步的功耗。

下表对比了不同场景的功耗预算与瓶颈分布：

场景	平均功耗预算	主要功耗瓶颈	典型硬件平台
智能音箱唤醒	5mW ~ 20mW	音频前端+神经网络推理	Cortex-M4F/M7
工业振动监测	10mW ~ 50mW	ADC采样+FFT+无线发送	Cortex-M33+NPU
医疗贴片	0.1mW ~ 1mW	AFE模拟前端+特征提取	Cortex-M0+/M4
智能视觉门铃	50mW ~ 200mW	图像传感器+CNN推理	Cortex-M7+硬件加速器

2.3 边缘设备硬件约束与功耗特性

操作流程：理解硬件约束是功耗优化的前提。以下是边缘设备硬件约束的四个核心维度及其功耗特性分析：

1. 计算单元约束：MCU内核（如Cortex-M4/M33）通常支持SIMD指令和DSP扩展，但缺乏向量化浮点单元。功耗特性表现为：动态功耗与时钟频率呈线性关系，与电压呈平方关系。在低频（如48MHz）下，CPU功耗可低至1mW/MHz级别。
2. 内存层次约束：SRAM容量有限且功耗随容量增加而上升。Flash读取功耗约为SRAM的2~3倍，且存在写寿命限制。功耗优化需关注数据复用策略，减少对Flash的重复访问。
3. 外设接口约束：传感器接口（I2C/SPI/PDM）、通信接口（BLE/UART）在活跃状态下的功耗不可忽视。例如，BLE广播的峰值电流可达10mA以上，但若采用占空比调度，平均功耗可降至µA级。
4. 电源管理约束：现代MCU支持多种低功耗模式（Sleep/Deep Sleep/Standby），唤醒延迟从几微秒到几百微秒不等。功耗优化的关键是在“快速唤醒”与“深度睡眠”之间找到平衡点。

以下是一个典型的边缘设备功耗分解示例（基于Cortex-M4F @ 64MHz，外设包括加速度计+BLE）：

系统状态: 待机监听 (加速度计 25Hz 采样)
- CPU: 0.8mA @ 3.3V (2.64mW)  [占比 18%]
- SRAM保持: 0.2mA (0.66mW)    [占比 4.5%]
- 加速度计: 0.15mA (0.5mW)    [占比 3.4%]
- BLE广播(1%占空比): 0.5mA (1.65mW) [占比 11.2%]
- 电源转换效率损失: 0.3mA (1mW) [占比 6.8%]
- 其他漏电: 0.1mA (0.33mW)    [占比 2.3%]
--------------------------------------------
合计: 2.05mA (6.77mW)  [电池寿命约 48 天 @ 240mAh]

2.4 功耗特性模型与Profiling切入点

案例拆解：为了更直观地理解功耗特性，我们以一个工业振动监测节点为例进行功耗建模分析。

背景与约束：某工厂需要在旋转机械上部署无线振动传感器，要求电池供电（2节AA电池，容量约2000mAh），目标工作寿命≥6个月。系统需以1kHz采样率采集三轴加速度数据，每10秒执行一次FFT和异常检测，并通过BLE将结果发送到网关。

初始功耗估算：

• 传感器+ADC：1kHz采样，三轴，功耗约1.5mW
• MCU（Cortex-M33 @ 64MHz）：FFT+CNN推理，每次约50ms，平均功耗约8mW
• BLE发送：每次发送20字节，峰值功耗15mW，持续5ms
• 待机功耗：RTC+SRAM保持，约5µA（0.0165mW）

分析过程：计算10秒周期内的平均功耗：

周期总能量 = 传感器(1.5mW × 10s) + MCU推理(8mW × 0.05s) + BLE(15mW × 0.005s) + 待机(0.0165mW × 9.945s)
           = 15mJ + 0.4mJ + 0.075mJ + 0.164mJ
           = 15.64mJ
平均功耗 = 15.64mJ / 10s = 1.564mW
电池寿命 = 2000mAh × 1.5V / 1.564mW ≈ 1918小时 ≈ 80天

结果对比与优化：初始设计仅能工作80天，远低于6个月目标。通过profiling发现，传感器采样功耗占比高达96%（15mJ/15.64mJ）。优化方案：将采样率降至500Hz（满足轴承故障特征频率），并采用“突发采样”模式（每10秒内连续采样0.5秒，其余时间传感器断电）。优化后：

优化后周期能量 = 传感器(1.5mW × 0.5s) + MCU(8mW × 0.05s) + BLE(15mW × 0.005s) + 待机(0.0165mW × 9.445s)
               = 0.75mJ + 0.4mJ + 0.075mJ + 0.156mJ
               = 1.381mJ
平均功耗 = 0.138mW
电池寿命 ≈ 2000mAh × 1.5V / 0.138mW ≈ 21739小时 ≈ 906天

复盘经验：该案例揭示了TinyML功耗优化的核心原则——先优化数据采集策略，再优化计算效率。传感器常开功耗往往是最大的隐性瓶颈，而MCU推理功耗虽然峰值高，但占空比低，对平均功耗贡献有限。在profiling时，应优先测量各外设的“活跃时间占比”和“峰值电流”，而非仅关注CPU负载。