课程导入：TinyML中模型大小与功耗的核心关系

TinyML（微型机器学习）正将人工智能从云端数据中心推向数十亿个电池供电的物联网边缘设备。从智能门锁中的语音唤醒词检测，到工业振动传感器上的异常诊断，这些设备共同面临一个严苛的物理约束：它们必须在毫瓦甚至微瓦级功耗预算内完成推理任务。而功耗的三大主要来源——Flash读取、RAM访问与CPU周期执行——都与模型大小直接相关。理解这三者与模型参数数量、层结构、量化策略之间的量化关系，是设计低功耗边缘AI系统的第一性原理。本章将建立这一核心认知框架，为后续各章深入剖析具体优化技术奠定基础。

上图展示了本章的核心逻辑框架：模型大小并非一个孤立的存储指标，而是通过Flash读取、RAM访问和CPU周期三条路径，共同决定系统总功耗。下面我们将逐一拆解这三条路径的物理机制与量化关系。

1.1 为什么模型大小直接决定功耗：三条能量消耗路径

核心原理：冯·诺依曼瓶颈与存储墙

绝大多数TinyML芯片（如Cortex-M系列微控制器）采用冯·诺依曼架构，指令和数据共享同一存储空间。每一次神经网络推理，都需要从Flash中读取权重和输入数据，在RAM中暂存中间激活值，并由CPU执行乘加运算（MAC）。根据经典的能量模型，一次32位Flash读取的能耗约为200pJ，一次32位RAM访问约为100pJ，而一次32位算术运算仅约20pJ——数据搬运的能耗远高于计算本身。这意味着，模型越大，需要搬运的数据越多，功耗呈近似线性增长。

判断方法：从模型文件大小估算推理功耗

在项目早期，我们可以通过一个简化公式快速估算功耗上限：

P_est ≈ (W_bytes × 2 + A_bytes × 3) × E_mem / T_infer

其中，W_bytes为模型权重总字节数，A_bytes为所有层激活值峰值字节数，E_mem取Flash与RAM能耗的加权平均值（约150pJ/字节），T_infer为目标推理时间。例如，一个100KB的int8模型，若激活值峰值为20KB，推理时间50ms，则估算功耗约为：

P_est = (100×1024×2 + 20×1024×3) × 150e-12 / 0.05 ≈ 0.8 mW

这个估算值可作为电池寿命规划的参考——一颗200mAh的纽扣电池，在3V电压下可提供约600mWh能量，理论上可支持约750小时连续推理。

案例拆解：语音唤醒词模型的功耗分解

我们以一款商用TinyML语音唤醒芯片为例，其模型为DS-CNN（深度可分离卷积网络），包含约54K参数，int8量化后模型大小为54KB。在16MHz主频下，推理一次需要约30ms。实测功耗分解如下：

• Flash读取：每次推理需读取全部54KB权重，加上指令流约10KB，共64KB。按150pJ/字节计算，能耗约9.6μJ。
• RAM访问：峰值激活值约8KB（第一层卷积输出），加上中间缓冲区，总RAM访问约15KB，能耗约2.25μJ。
• CPU周期：共需约480K个周期（含MAC与控制），按20pJ/周期计算，能耗约9.6μJ。
• 总能耗：约21.5μJ，平均功耗0.72mW。

若将模型量化为int4（模型大小减半至27KB），Flash读取能耗降至4.8μJ，总能耗降至约16.7μJ，功耗降低22%。这验证了模型大小与功耗的强相关性。

1.2 学习目标与课程框架

核心原理：从“能跑”到“能省”的思维转变

本课程的目标不是教你训练一个高精度模型，而是培养一种“功耗预算驱动设计”的工程思维。你将学会：在给定电池容量、散热约束和实时性要求下，如何选择模型架构、量化策略、内存复用方案和硬件加速指令，使系统在满足精度前提下功耗最小化。

课程四大模块

判断方法：如何评估一个TinyML方案的功耗健康度

1. 计算理论最低功耗：根据模型大小和MAC数，用能量模型算出理想值。
2. 实测功耗分解：使用STM32CubeMonitor-Power或Joulescope等工具，分别测量Flash读取、RAM访问和CPU周期的贡献。
3. 对比效率指标：计算“每推理能耗/模型大小”比值，若该值高于同类方案2倍以上，说明存在优化空间。

常见误区与复盘

• 误区一：只关注模型大小，忽略激活值内存。某些模型（如U-Net）权重很小但特征图巨大，RAM访问能耗可能超过Flash读取。
• 误区二：认为量化一定降低功耗。若硬件不支持int8加速，反量化操作会增加CPU周期，可能抵消存储节省。
• 误区三：忽略待机功耗。TinyML设备大部分时间处于待机，待机电流（如10μA）与推理功耗（如1mW）的权衡同样重要。