课程导入：TinyML推理系统概述、传感器采样与调度联合优化的意义、课程学习路径与目标
TinyML（微型机器学习）是指在功耗、算力、存储资源极度受限的嵌入式设备上部署和运行机器学习推理模型的技术体系。与云端AI依赖大规模GPU集群不同，TinyML系统通常以电池供电，采用MCU（微控制器）或极低功耗的NPU/DSP作为计算核心，内存容量往往只有几十KB到几MB。在这样的约束下，系统不仅要完成推理计算，还要同时管理传感器数据采集、信号预处理、任务调度、功耗控制等多项实时性任务。本课程聚焦于一个核心问题：传感器采样策略与推理任务调度之间如何联合优化，以在有限资源下实现最低功耗、最低延迟和最高推理精度之间的平衡。
1.1 TinyML推理系统的基本架构与资源约束
TinyML推理系统的典型硬件架构由传感器接口、数据通路、计算单元和电源管理四大部分组成。传感器接口负责将物理世界的模拟信号转换为数字量，常见接口包括I²C、SPI、UART以及带FIFO的专用传感器总线。数据通路通常包含DMA控制器和环形缓冲区，用于在不占用CPU的情况下批量搬运传感器数据。计算单元以ARM Cortex-M系列、RISC-V内核或低功耗NPU为核心，运行经过量化（如INT8、INT4）的神经网络模型。电源管理模块则通过多种睡眠模式（Sleep、Deep Sleep、Hibernate）和动态电压频率调节（DVFS）来控制整体功耗。
资源约束是TinyML系统设计的出发点。以典型的Cortex-M4F内核MCU为例，其主频通常在80MHz~200MHz之间，SRAM容量为256KB~1MB，Flash为1MB~4MB。当部署一个语音唤醒词检测模型时，模型权重可能占用200KB Flash，激活缓冲区需要50KB SRAM，而音频采样缓冲区还需要额外的16KB。这意味着留给调度器和操作系统的内存空间极为有限。更关键的是，传感器采样本身就会消耗大量功耗——一个典型的I²C加速度计在连续采样模式下功耗可达200µA，而MCU在睡眠模式下仅需5µA。如果采样策略不当，传感器功耗甚至可能超过推理计算本身的功耗。
1.2 传感器采样与调度联合优化的必要性
传统嵌入式系统的设计方法将传感器采样和推理任务视为两个独立模块：传感器以固定频率采样，推理任务以固定周期运行。这种解耦设计在资源充裕的系统中没有问题，但在TinyML场景下会导致严重的资源浪费。以工业预测性维护为例，振动传感器以20kHz采样加速度数据，每秒钟产生40KB数据。如果MCU持续处理这些数据，功耗将高达数十毫瓦，电池寿命仅剩数天。然而，设备故障特征往往只在特定频段出现，且具有间歇性——大部分时间设备处于正常运行状态，并不需要高频采样。
联合优化的核心思想是：让采样策略感知推理任务的需求，让调度策略感知采样的成本。具体而言，包括以下几个维度：
- 事件驱动采样：通过传感器内置的中断或阈值检测功能，在事件发生时唤醒MCU进行采样，而非持续轮询。
- 自适应采样率：根据推理结果的置信度或数据变化率动态调整采样频率。当数据平稳时降低采样率，当检测到异常趋势时提高采样率。
- 推理任务调度：将推理任务分为轻量级预筛选和重量级精确推理两级。预筛选以低功耗模式频繁运行，只有预筛选通过才触发完整推理。
- 批处理与流水线：将多个采样数据打包后一次性推理，减少推理引擎的唤醒次数和上下文切换开销。
下表对比了传统独立设计与联合优化设计在关键指标上的差异：
| 设计维度 | 传统独立设计 | 联合优化设计 |
|---|---|---|
| 采样策略 | 固定采样率（如10Hz恒定） | 事件驱动 + 自适应采样率（1Hz~100Hz动态调整） |
| 推理触发 | 定时触发（每100ms推理一次） | 两级触发（预筛选 + 精确推理） |
| 平均功耗 | 3.2mW（传感器+MCU持续工作） | 0.8mW（大部分时间处于睡眠） |
| 响应延迟 | 100ms（固定周期） | 15ms（事件触发即时响应） |
| 推理精度 | 固定精度（可能过度采样或欠采样） | 动态精度（关键事件高精度，常规场景低精度） |
| 电池寿命（200mAh） | 约2.6天 | 约10.4天 |
1.3 课程学习路径与目标
本课程共30章，按照“基础-方法-实践-进阶”四个阶段组织。第一阶段（第1~6章）建立TinyML系统的基础认知，包括硬件架构、传感器接口、数据采集与信号处理基础。第二阶段（第7~15章）深入讲解采样策略设计，包括事件驱动采样、自适应采样率控制、多传感器协同采样等核心技术。第三阶段（第16~24章）聚焦调度算法与系统集成，涵盖实时调度理论、功耗感知调度、采样与推理的联合优化框架。第四阶段（第25~30章）通过完整的项目实战，将前序知识整合到具体的应用场景中，如智能穿戴设备的人体活动识别、工业设备的异常检测、智慧农业的环境监测等。
完成本课程后，学习者将具备以下能力：
- 系统分析能力：能够对给定的TinyML应用场景进行资源预算分析，识别采样与调度的瓶颈点。
- 采样策略设计能力：掌握事件驱动、自适应采样、多传感器融合等采样优化方法，并能根据应用需求选择合适的策略。
- 调度算法实现能力：能够基于FreeRTOS或Zephyr等RTOS实现功耗感知的任务调度器，并集成采样控制逻辑。
- 联合优化实践能力：能够针对具体应用，设计采样-调度联合优化方案，并通过实际测量验证优化效果。
- 性能评估能力：掌握功耗测量、延迟分析、精度评估的方法论，能够量化优化前后的收益。
1.4 常见误区与课程学习注意事项
在TinyML联合优化的学习过程中，初学者容易陷入以下几个误区，需要特别警惕：
- 误区一：只关注推理模型的优化，忽视采样环节。很多学习者将精力集中在模型压缩、量化上，认为只要模型足够小、足够快，系统性能就必然提升。实际上，在大多数TinyML应用中，传感器采样和数据处理所消耗的功耗与时间往往超过推理本身。一个极端的例子是：一个图像分类模型推理仅需5ms、功耗2mW，但图像传感器采集一帧图像需要30ms、功耗15mW。此时，优化采样策略比优化模型更能显著降低系统总功耗。
- 误区二：认为采样率越高越好。高采样率确实能保留更多信息，但同时也带来更高的功耗、更大的数据存储需求和更频繁的推理触发。在电池供电的设备中，过高的采样率会大幅缩短设备寿命。正确的做法是根据应用场景的频域特征和推理精度需求，选择“足够好”的采样率，而非“最高”的采样率。
- 误区三：将采样和调度完全分离设计。有些开发者先固定采样策略，再设计调度器，最后发现系统整体性能不佳。联合优化的核心在于两者的协同设计——采样策略需要为调度器提供灵活的数据供给模式，调度器需要根据采样成本调整任务执行时机。例如，当采样成本较高时，调度器应尽量将推理任务与采样操作合并执行，减少唤醒次数。
- 误区四：忽视传感器本身的功耗特性。不同传感器的功耗模型差异巨大。有些传感器支持多种工作模式（如单次测量、连续测量、FIFO缓冲），不同模式下的功耗相差数十倍。设计者需要仔细阅读传感器数据手册，理解其功耗特性，才能做出合理的采样策略。