4、特征缓存核心概念：缓存粒度、缓存键设计、缓存生命周期与失效策略

TinyML 时序推理场景中，特征缓存并非简单的“存一个值、取一个值”，而是一套围绕 时间序列滑动窗口 与 重复计算消除 的工程机制。在嵌入式设备上，内存以 KB 计、Flash 以 MB 计，CPU 主频往往只有几十 MHz，因此缓存设计必须同时考虑存储开销、查找耗时、失效实时性三个维度。本章从缓存粒度、缓存键设计、生命周期与失效策略四个核心概念展开，帮助你在资源受限环境下构建正确、高效、可维护的特征缓存层。

上图展示了特征缓存的整体框架：缓存粒度决定了“缓存什么”，缓存键决定了“如何找到”，生命周期与失效策略决定了“何时丢弃”。四个概念相互制约，例如粒度过细会导致键数量爆炸，粒度过粗则复用率下降；失效策略过于激进会降低命中率，过于保守则可能使用过期特征。下面逐一展开。

4.1 缓存粒度：从样本到特征的三级选择

核心原理：缓存粒度是指缓存数据的基本单位。在 TinyML 时序推理中，通常有三种可选粒度：原始样本级（缓存 ADC 原始读数或预处理后的浮点样本）、窗口级（缓存整个滑动窗口的样本数组）、特征值级（缓存从窗口计算出的统计特征，如均值、方差、FFT 频谱能量等）。粒度选择直接影响缓存命中率、存储开销和计算节省比例。

判断方法：选择粒度时，先统计各特征计算函数的耗时占比。如果特征计算（如 FFT、小波变换）占推理总耗时超过 30%，优先考虑特征值级缓存；如果预处理（滤波、去噪）是瓶颈，则窗口级更合适；如果多个特征算法都依赖同一段原始样本，且样本读取本身有 I/O 开销，则原始样本级有价值。实际工程中，特征值级缓存 是性价比最高的选择，因为它直接消除重复计算，且存储开销最小。

4.2 缓存键设计：唯一性与快速查找的平衡

核心原理：缓存键是定位缓存条目的唯一标识。在时序推理中，键必须能唯一确定一个窗口或一组样本。设计不佳的键会导致缓存冲突（不同数据映射到同一键）或查找过慢。一个合理的键通常由三部分组成：传感器/通道标识、窗口起始时间戳、窗口参数哈希（窗口长度、步长、预处理类型）。

// 示例：32位缓存键设计（适用于Cortex-M系列）
typedef union {
    struct {
        uint8_t  sensor_id;      // 传感器通道，0-255
        uint8_t  window_len;     // 窗口长度编码（如 0=32, 1=64, 2=128）
        uint16_t start_ts;       // 窗口起始时间戳（相对时间，取模65536）
    } fields;
    uint32_t raw;               // 作为哈希表的键值
} cache_key_t;

// 查找示例
cache_key_t key;
key.fields.sensor_id = 2;
key.fields.window_len = 1;  // 64点窗口
key.fields.start_ts = (uint16_t)(current_ts & 0xFFFF);
uint32_t hash = key.raw % CACHE_SIZE;

操作流程：设计缓存键时遵循以下步骤：① 列出所有影响特征值的变量（传感器 ID、采样率、窗口长度、窗口步长、预处理参数）；② 将连续变量（如时间戳）离散化为固定位宽；③ 将离散变量打包为 32 位或 64 位整数；④ 若变量总数超过位宽，使用哈希函数（如 FNV-1a）压缩；⑤ 在查找时先比较键值，再比较完整参数（防止哈希冲突）。

4.3 缓存生命周期：从分配到回收

核心原理：生命周期管理是指缓存条目从创建、使用到销毁的完整过程。在 TinyML 设备上，由于内存有限，缓存不能无限增长。生命周期通常分为四个阶段：分配（在初始化或首次访问时创建）、活跃（被一个或多个推理任务引用）、老化（不再被引用但尚未删除）、回收（内存被释放或覆盖）。

判断方法：确定生命周期策略时，需要回答三个问题：① 缓存条目何时创建？——建议采用懒加载，即首次需要该特征时才计算并缓存，避免启动时预计算浪费资源；② 缓存条目何时失效？——由失效策略决定（见 4.4）；③ 缓存条目何时物理删除？——建议采用引用计数 + 定时清理，当引用计数归零且超过空闲阈值时回收内存。

4.4 失效策略：保证数据新鲜度

核心原理：失效策略决定缓存条目何时被视为过期。时序推理中，特征值随时间变化，但变化速率因特征而异——加速度计的均值可能每毫秒都在变，而电池电压的均值可能数秒内不变。失效策略必须与特征变化速率匹配，否则会使用过期特征导致推理错误。

操作流程：实施混合失效策略时：① 为每个缓存条目记录 creation_tick 和 max_ttl_ticks；② 在每次推理前检查 current_tick - creation_tick > max_ttl_ticks，若成立则标记失效；③ 同时注册传感器事件回调，当检测到数据跳变（如加速度计突然超过阈值）时，立即将相关缓存条目失效；④ 定期（如每 100 次推理）执行一次清理，删除失效条目并回收内存。

4.5 案例拆解：工业振动监测中的缓存优化

背景与约束：某工业设备振动监测节点使用 STM32L4 系列 MCU（80MHz，64KB RAM），以 4kHz 采样率采集三轴加速度计数据，每 0.5 秒执行一次推理，窗口长度为 1024 点（256ms），窗口步长为 512 点（50% 重叠）。原始特征计算包括：FFT（512 点）、RMS、峰值因子、峭度，总耗时约 18ms。设备要求推理周期不超过 25ms，否则无法满足实时报警需求。

初始现象：未使用缓存时，每次推理需完整计算 4 个特征，耗时 18ms，加上模型推理 5ms，总耗时 23ms，勉强达标但余量很小。当系统负载增加（如同时处理温度传感器数据）时，推理周期会超过 25ms，导致报警延迟。

分析判断：由于窗口重叠率为 50%，相邻两次推理共享 512 点样本。理论上，第二次推理的 FFT 结果可以通过“滑动 FFT”增量更新获得，但实现复杂。更简单的方法是缓存特征值：每次推理时，当前窗口的特征值 = 上一窗口特征值 × 衰减系数 + 新样本贡献。但考虑到峭度等非线性特征无法简单增量更新，决定采用特征值级缓存 + 部分增量计算策略。

实际操作步骤：

1. 将窗口起始时间戳（512 点步长对应 128ms）作为缓存键的低 16 位，传感器 ID 作为高 8 位，窗口长度编码作为次高位，组成 32 位键。
2. 为 RMS 和峰值因子设计增量更新公式：RMS_new = sqrt((RMS_old² × 512 + sum_new²) / 1024)，其中 sum_new 是新进入窗口的 512 点平方和。
3. FFT 和峭度使用全量计算，但将结果缓存，键为窗口起始时间戳。
4. 设置 TTL：RMS 和峰值因子 TTL = 2 个推理周期（1 秒），FFT 和峭度 TTL = 1 个推理周期（0.5 秒）。
5. 注册加速度计数据就绪中断，当检测到连续 3 个样本超过预设阈值时，触发事件驱动失效，立即清除所有缓存。

结果对比：优化后，RMS 和峰值因子计算耗时从 6ms 降至 0.3ms（增量更新），FFT 和峭度仍为 12ms，但缓存命中时直接复用（命中率约 50%）。平均推理耗时从 18ms 降至 9.5ms，总推理周期从 23ms 降至 14.5ms，余量充足。缓存占用：4 个特征 × 16 字节 × 2 个窗口 = 128 字节，仅占 RAM 的 0.2%。

风险与代价：增量更新引入累积误差，连续 10 次增量后 RMS 误差约 0.5%，在可接受范围内。事件驱动失效需要额外中断处理代码，增加了约 200 字节 Flash 占用。若传感器数据出现长期漂移，TTL 机制会强制全量重算，保证准确性。

复盘经验：特征值级缓存配合增量计算是 TinyML 时序推理中性价比最高的优化手段。关键在于：① 识别哪些特征可增量更新，哪些必须全量计算；② TTL 设置要结合特征变化速率，不能一刀切；③ 事件驱动失效是应对突发数据变化的安，不可省略。

4.6 常见误区与总结复盘

误区一：缓存粒度越细越好。实际上，原始样本级缓存虽然复用灵活，但键数量庞大（每秒 4000 个样本），查找开销甚至超过计算开销。建议优先使用特征值级缓存。

误区二：缓存键越复杂越安全。将传感器 ID、时间戳、窗口参数、预处理类型全部拼接为 64 位键，虽然唯一性高，但哈希查找耗时增加。在 Cortex-M 系列上，32 位键的查找仅需 3-5 个周期，64 位键需要 8-10 个周期。应尽量压缩键长度。

误区三：失效策略越激进越好。频繁失效会导致缓存命中率下降，甚至出现“缓存抖动”——每次推理都在重算。应根据特征的时间敏感度分级设置 TTL。

误区四：忽略缓存一致性。当传感器配置（如采样率、量程）改变时，旧缓存必须全部失效。建议在配置变更函数中调用 cache_clear_all()，而不是依赖 TTL 自然过期。