2、TinyML基础：什么是TinyML、典型应用场景、端侧推理对硬件的核心需求

TinyML（微型机器学习）是机器学习与嵌入式物联网系统交叉融合的前沿领域，其核心目标是在功耗受限、计算资源有限、存储空间极小的微控制器（MCU）上部署和运行机器学习模型，实现端侧实时推理。与云端AI依赖高速网络和大型服务器集群不同，TinyML强调数据在本地处理、本地决策，从根本上解决带宽、延迟、隐私和功耗四大痛点。理解TinyML的本质、应用边界以及其对硬件选型的约束，是进行低功耗MCU、传感器与电源芯片匹配的前提。本章将系统拆解TinyML的定义、典型场景，并提炼出端侧推理对硬件选型的核心需求矩阵。

2.1 TinyML的定义与核心特征

TinyML并非简单的"小模型"或"轻量化AI"，而是一套完整的工程方法论，涵盖模型压缩、编译优化、运行时调度和硬件适配。从技术栈角度看，TinyML位于嵌入式系统与机器学习模型的交叉点，其典型特征可以归纳为四个维度：极致的资源约束（通常Flash小于1MB，RAM小于512KB）、严格的实时性要求（推理延迟需控制在毫秒级至百毫秒级）、多样化的功耗模式（需要支持运行、睡眠、深度睡眠等多种状态切换）、以及端云协同的部署模式（模型在云端训练，在端侧推理）。

需要特别指出的是，TinyML与传统的嵌入式信号处理有本质区别。传统嵌入式代码是确定性逻辑（if-else规则），而TinyML模型是通过数据驱动学习得到的参数化函数。这意味着硬件选型时不仅要考虑MCU的指令执行效率，还要关注其是否支持硬件加速指令（如CMSIS-NN、RISC-V向量扩展）、是否具备足够的内存带宽来搬运权重数据，以及是否有高效的DMA控制器来配合传感器数据采集。

2.2 典型应用场景与硬件需求映射

TinyML的应用场景决定了硬件选型的方向。不同场景对算力、功耗、传感器类型和通信方式的需求差异巨大。下表梳理了六大典型场景及其对应的硬件需求特征：

从表中可以看出，算力需求与传感器数据维度直接相关。例如，振动分析需要高频采样（10-20kHz）并做FFT预处理，而语音唤醒只需要8-16kHz的音频特征。硬件选型时，不能只看MCU主频，还要评估其数字信号处理（DSP）能力——Cortex-M4以上的内核通常带有单周期乘加指令（MAC）和SIMD扩展，这对卷积运算至关重要。

2.3 端侧推理对硬件的核心需求拆解

端侧推理的硬件需求可以拆解为六个维度，每个维度都有具体的量化指标和选型陷阱。以下逐一展开：

2.3.1 算力需求：MAC效率比主频更重要

MCU的算力不能简单用主频衡量，而应关注每周期能执行多少次乘加运算（MACs/cycle）。Cortex-M0+为1 MAC/cycle，Cortex-M4为1 MAC/cycle（但带DSP扩展），Cortex-M7为2 MAC/cycle（双发射），而带NPU的MCU（如NXP i.MX RT1170的eIQ Neutron NPU）可达128 MAC/cycle。对于CNN模型，卷积层占80%以上的计算量，因此MAC效率直接决定推理速度。

// 以Cortex-M4为例，计算1D卷积的MAC开销
// 输入长度N=128，卷积核K=5，输出长度M=124
// 总MACs = M * K = 124 * 5 = 620次
// 在96MHz主频下，理论耗时 = 620 / (96e6 * 1) ≈ 6.5µs
// 但实际考虑循环开销、内存访问，通常有3-5倍性能损失

2.3.2 存储需求：Flash与RAM的容量和带宽

模型权重通常存储在Flash中，推理时的中间特征图存放在RAM中。选型时需同时考虑容量和访问带宽。例如，一个300KB的模型在96MHz主频下，若Flash接口为32位宽且无缓存，读取全部权重需要300KB/4B=75K次访问，每次访问至少2个周期，总耗时150K周期≈1.6ms。若使用带缓存（Cache）的MCU，可显著减少重复访问延迟。

• Flash容量规划：模型大小 + 运行时库（TensorFlow Lite Micro约20-40KB）+ 应用代码 + Bootloader + 预留OTA升级空间（通常额外预留50%）。
• RAM容量规划：输入/输出张量 + 中间特征图（最大层）+ 激活函数缓冲区 + 传感器DMA缓冲区 + 通信协议栈。建议预留30%余量。
• 内存带宽瓶颈：对于图像类模型，每层卷积需要反复读取输入特征图和权重，若RAM带宽不足，算力再高也会被"饿死"。

2.3.3 功耗需求：动态功耗与静态功耗的平衡

TinyML设备的功耗由三部分组成：计算功耗（动态功耗，与主频和电压平方成正比）、静态功耗（漏电流，与制程和温度相关）、外设功耗（传感器、通信模块）。选型时需关注MCU的低功耗模式（Sleep、Deep Sleep、Standby）及其唤醒时间。例如，STM32L4系列在Standby模式下功耗可低至0.3µA，但唤醒时间需要几微秒；而Cortex-M33内核的TrustZone功能在安全隔离时也会增加额外功耗。

2.3.4 外设接口：传感器数据采集的实时性

传感器与MCU之间的数据通路直接影响推理结果的时效性。核心需求包括：DMA通道数量（用于无CPU干预的数据搬运）、ADC采样率与分辨率（振动分析需16位/20kHz以上）、I2C/SPI速率（多传感器融合时总线带宽可能成为瓶颈）、以及中断响应延迟（对于事件驱动型推理，如按键唤醒、运动检测）。

一个典型的传感器数据链路为：传感器 → 模拟前端（运放/滤波） → ADC → DMA → RAM缓冲区 → 预处理（滤波/归一化） → 推理引擎。硬件选型时，要确保MCU的DMA能同时服务多个外设，避免数据丢失。例如，同时采集3轴加速度计（SPI，1kHz）和麦克风（I2S，16kHz）时，需要至少2个DMA通道且优先级可配置。

2.3.5 安全需求：端侧AI的信任根

当TinyML用于身份认证、支付或医疗设备时，硬件安全能力成为刚需。需要关注：安全启动（防止模型被篡改）、加密引擎（AES/RSA加速器，用于模型加密存储）、唯一ID（用于设备认证）、以及TrustZone/TrustZone-M（实现安全与非安全世界的隔离）。例如，Arm Cortex-M33内核支持TrustZone技术，可将模型推理放在安全世界，防止恶意软件提取模型参数。

2.3.6 生态与工具链：开发效率的隐形决定因素

硬件选型不仅是芯片选型，更是开发环境选型。需要评估：是否支持TensorFlow Lite Micro、Edge Impulse、STM32Cube.AI等主流工具链；是否有成熟的BSP（板级支持包）和示例代码；调试工具（JTAG/SWD）是否易用；以及社区活跃度。例如，Arduino Nicla Voice集成了Cortex-M4和DSP，配合Edge Impulse可在30分钟内完成从数据采集到模型部署的全流程，而某些小众MCU虽然硬件指标优秀，但工具链不完善，导致开发周期成倍增加。

2.4 案例拆解：可穿戴心电异常检测设备的硬件选型

为了将上述需求映射到实际选型过程，我们以一个可穿戴单导联心电（ECG）异常检测设备为例，完整走一遍硬件选型流程。

背景与约束：设备需连续工作7天，使用200mAh纽扣电池；ECG采样率250Hz，分辨率12位；需在本地完成心律失常分类（正常/房颤/室早）；设备尺寸限制在25mm×25mm以内；支持BLE 5.0与手机通信。

初始目标与关键指标：推理延迟<100ms；分类准确率>95%；整机平均功耗<1mW；Flash占用<200KB；RAM占用<50KB。

分析判断过程：

1. 模型选择：采用1D CNN + LSTM的混合模型，输入为5秒ECG片段（1250个采样点），模型参数量约80K，量化后大小约80KB。
2. 算力估算：模型总MACs约2.5M，在Cortex-M4（96MHz，1 MAC/cycle）上理论耗时26ms，加上预处理和LSTM循环开销，预计总推理时间60-80ms，满足<100ms要求。
3. 存储评估：Flash需求 = 80KB（模型）+ 30KB（运行时）+ 20KB（BLE协议栈）+ 10KB（应用代码）= 140KB，选择256KB Flash的MCU。RAM需求 = 输入缓冲（2.5KB）+ 中间特征图（最大层约8KB）+ LSTM状态（4KB）+ 系统开销（10KB）= 24.5KB，选择64KB RAM。
4. 功耗核算：运行模式（推理时）：电流8mA，持续80ms；BLE发送：电流15mA，持续5ms（每30秒一次）；睡眠模式：电流2µA。平均功耗 = (8×0.08 + 15×0.005/30 + 0.002×86399.9) / 86400 ≈ 2.1µA，远低于1mW预算。
5. 外设匹配：ECG模拟前端（如ADS1291）通过SPI接口连接MCU，SPI速率2MHz；需要1个DMA通道用于连续采样；ADC内置在模拟前端中，MCU无需额外ADC。

最终选型：Nordic nRF52840（Cortex-M4F，64MHz，1MB Flash/256KB RAM）或STM32L4R5（Cortex-M4F，120MHz，2MB Flash/640KB RAM）。考虑到BLE集成度和低功耗性能，最终选择nRF52840，其片上BLE控制器和PWM模块可简化设计，且支持TrustZone（nRF5340为M33内核，但nRF52840生态更成熟）。

结果与复盘：实际测试中，推理时间72ms，整机平均功耗1.8µA（睡眠模式占主导），7天耗电约0.3mAh，远低于200mAh电池容量。但发现一个问题：LSTM层在Cortex-M4上无法利用SIMD指令，导致计算效率低于预期。复盘经验：对于包含RNN/LSTM的模型，应优先选择支持CMSIS-NN的MCU，或考虑将LSTM替换为TCN（时间卷积网络）以更好地利用硬件加速。

2.5 常见误区与总结复盘

在TinyML硬件选型中，工程师常陷入以下五个误区，导致项目延期或产品失败：