课程导入：TinyML时序推理的挑战与优化动机

TinyML（微型机器学习）正将人工智能从云端数据中心推向微控制器（MCU）、传感器节点和边缘设备。然而，当推理任务从静态单帧图像识别转向连续时序信号处理（如振动监测、心电分析、语音关键词检测）时，开发者很快会遭遇一个现实瓶颈：每一次推理都从零开始计算，而相邻时间窗口的数据却高度重叠。这种重复计算不仅浪费宝贵的电池能量，还直接限制了设备可承载的模型复杂度。本章作为整个课程的开篇，将系统剖析TinyML时序推理面临的核心矛盾，明确特征缓存与重复计算消除技术的优化空间，并勾勒出从问题诊断到方案落地的完整学习路径。

1.1 TinyML时序推理的核心挑战

在资源受限的MCU上执行时序推理，与云端或移动端AI存在本质差异。云端服务器拥有强大的CPU/GPU、充足内存和稳定供电，而TinyML设备通常只有几十KB到几百KB的RAM，主频在几十MHz到两百MHz之间，且依赖电池供电。时序推理的典型工作模式是：传感器以固定频率（如100Hz）采样，系统维护一个滑动窗口（如100个采样点），每隔一定步长（如50个采样点）触发一次推理。这种设计保证了时间连续性，但也带来了三个层面的挑战。

• 计算资源瓶颈：每次推理都需要对窗口内所有采样点重新执行特征提取（如FFT、小波变换、统计特征计算），这些操作在MCU上可能消耗数十毫秒甚至数百毫秒，导致无法满足实时性要求。
• 能量效率问题：电池容量有限，重复计算意味着无效能耗。以100Hz采样、50%窗口重叠为例，理论上50%的FFT计算是冗余的，直接转化为电池寿命的缩短。
• 内存带宽压力：频繁的窗口滑动需要不断搬运数据，而MCU的DMA和总线带宽有限，数据搬运本身也成为瓶颈。

这些挑战的本质是：时序数据天然具有时间相关性，而传统推理流程却将其视为独立样本。特征缓存与重复计算消除正是针对这一结构性矛盾提出的系统性解决方案。

1.2 优化动机：从数据重叠到计算复用

滑动窗口机制是时序推理的基础，但窗口之间的重叠区域为优化提供了切入点。假设窗口长度为W，滑动步长为S，则相邻窗口的重叠率为 (W-S)/W。当S远小于W时，重叠率可能高达75%甚至90%。这意味着，如果能够缓存前一个窗口计算得到的中间特征，并仅对新增的S个采样点进行增量计算，就能将特征提取的计算量从O(W)降低到O(S)。

窗口参数	窗口长度 W	滑动步长 S	重叠率	传统计算量	优化后计算量	节省比例
高重叠场景	100	10	90%	100单位	10单位	90%
中等重叠	100	25	75%	100单位	25单位	75%
低重叠	100	50	50%	100单位	50单位	50%

值得注意的是，并非所有特征都适合增量计算。例如，全局统计量（均值、方差）可以通过维护累计和与累计平方和实现O(1)更新；频域特征（FFT结果）可以利用滑动FFT算法或递推公式；而非线性特征（如熵、峰值因子）则需要更复杂的缓存策略。因此，优化设计的第一步是建立特征分类矩阵，明确哪些特征可增量、哪些必须全量重算。

1.3 案例拆解：工业振动监测中的能耗优化

我们以一个实际的工业电机振动监测项目为例，说明优化动机的量化分析过程。该设备使用STM32L4系列MCU（主频80MHz，RAM 64KB），加速度传感器以1kHz采样，窗口长度512点，滑动步长64点（重叠率87.5%），每64ms执行一次推理，用于检测轴承故障。

初始现象与目标：设备采用两节AA电池供电，目标续航6个月。初步测试发现，特征提取（含512点FFT、RMS、峰值因子、峭度）每次耗时约35ms，功耗约12mA@3.3V。按此计算，平均电流消耗为：

每次推理能耗 = 35ms × 12mA = 0.42mAs
每秒推理次数 = 1000ms / 64ms ≈ 15.6次
平均电流 = 0.42mAs × 15.6次/s ≈ 6.55mA
电池容量（两节AA串联约2000mAh）→ 续航 ≈ 2000/6.55 ≈ 305小时 ≈ 12.7天

这远低于6个月的目标，必须优化。

分析判断过程：通过性能分析工具（如STM32CubeMonitor）定位，特征提取占总推理时间的68%，其中FFT占特征提取的72%。由于窗口重叠率高达87.5%，理论上每次推理只需计算64个新采样点的FFT增量，而非512点全量FFT。进一步分析发现：

• RMS（均方根值）可通过维护平方和累计器实现O(1)更新；
• 峰值因子需要维护窗口内最大值，可通过双端队列（deque）维护滑动最大值；
• 峭度（四阶矩）需要维护平方和与四次方和，同样可增量计算；
• FFT则采用滑动FFT算法，利用前一窗口的频域结果和时域差分进行递推。

实际操作与结果：实施特征缓存后，特征提取时间从35ms降至9ms（节省74%），整体推理时间从51ms降至25ms。平均电流降至2.1mA，理论续航提升至约40天。虽然仍未达到6个月目标，但为进一步优化（如降低采样率、模型量化、休眠策略）赢得了空间。该案例的代价是增加了约4KB的RAM用于缓存中间结果（FFT频域缓冲、累计器、滑动队列），在64KB RAM的预算内可接受。

1.4 常见误区与学习路径

在TinyML时序推理优化中，开发者常陷入以下误区：

• 误区一：认为缓存只适用于简单特征。实际上，通过数学变换（如递推公式、累计器、滑动窗口聚合），许多复杂特征也能实现增量计算。
• 误区二：忽视缓存一致性。当传感器数据出现异常跳变（如受到冲击干扰）时，缓存中的累计值可能被污染，需要设计异常检测与缓存重置机制。
• 误区三：盲目追求高重叠率。重叠率越高，缓存收益越大，但推理延迟也越高（因为窗口覆盖的时间跨度更长）。需根据应用实时性要求平衡。
• 误区四：忽略内存代价。缓存不是免费的，FFT频域缓存、滑动队列等都需要RAM。在资源受限的MCU上，必须进行内存预算规划。

本课程的学习路径将遵循“诊断→设计→实现→验证”的工程主线：第2-4章深入特征分类与增量计算数学基础；第5-7章讲解缓存架构设计与内存管理；第8-10章聚焦滑动FFT、递推统计等核心算法；第11-15章覆盖模型层面的优化（如时序卷积的因果缓存）；第16-20章讨论多级流水线与调度策略；第21-25章引入自动代码生成与工具链支持；第26-30章通过完整项目实战串联所有知识点。每一章都会提供可运行的代码示例和性能对比数据，帮助你在自己的硬件平台上复现优化效果。