3、连续推理需求：为什么需要连续推理，典型应用场景（如手势识别、异常检测、语音唤醒）
在Edge Impulse的部署实践中，许多开发者最初接触的是“单次推理”模式：采集一段数据，送入模型，得到一个分类结果。然而，现实世界中的物理信号——无论是加速度计捕捉的手部运动、麦克风采集的语音，还是工业设备振动传感器传来的波形——都是持续不断、无边界的数据流。如果每次推理都依赖人工触发或固定间隔采样，不仅会错过关键事件，还会因为数据截断位置不当而严重降低识别准确率。连续推理（Continuous Inference）正是为了解决“如何从无限长的数据流中稳定、及时地提取有意义的事件”这一核心矛盾而设计的。本章将深入剖析连续推理的底层需求、典型应用场景，以及它在Edge Impulse中的实现机制与工程权衡。
上图展示了连续推理的核心链路：原始数据流经过滑动窗口切分，每个窗口独立进行特征提取与推理，最后通过输出平滑策略产生稳定的预测结果。三个典型应用场景（手势识别、异常检测、语音唤醒）虽然数据模态不同，但都遵循这一基本范式，只是在窗口长度、步长和平滑策略上各有侧重。
3.1 核心原理：从单次触发到流式处理
理解连续推理，首先要打破“一次推理处理一个完整样本”的思维定式。在Edge Impulse中，连续推理的本质是将时间轴上的数据流切分为一系列有重叠或首尾相接的窗口，并对每个窗口执行推理。这种设计背后有三个关键动机：
- 事件边界未知：以手势识别为例，用户何时开始挥手、何时结束，系统无法预知。只有通过持续滑动窗口，才能保证某个窗口恰好覆盖动作的核心部分。
- 计算资源受限：边缘设备（如Cortex-M4、ESP32）无法一次性缓存并处理长时间的数据。滑动窗口将无限流转化为有限长度的张量，使推理成为可能。
- 实时性要求：异常检测需要在故障发生后的毫秒级时间内报警。连续推理确保每个新数据点到达后，最多经过一个窗口长度的时间就能产生更新结果。
在Edge Impulse的Studio中，连续推理的配置主要体现在“Impulse Design”页面的Window size和Window increase参数上。Window size定义了每个处理块（如频谱分析、分类器）接收的样本数量，而Window increase则决定了窗口滑动的步长。当Window increase小于Window size时，相邻窗口之间存在重叠，这能有效避免事件恰好落在窗口边界而被截断的风险。
关键参数理解：假设采样率为100Hz，Window size设为200（即2秒数据），Window increase设为20（即0.2秒）。这意味着每0.2秒系统就会执行一次推理，但每次推理基于最近2秒的数据。这种配置下，系统对事件的响应延迟最大为0.2秒（等待下一个窗口），而计算开销仅为每0.2秒一次推理，而非每2秒一次。
3.2 判断方法与操作流程：如何为场景选择窗口与步长
选择正确的窗口参数是连续推理系统设计中最关键的决策之一。错误的窗口长度会导致模型无法捕捉事件的完整特征，而错误的步长则会造成计算浪费或响应迟缓。以下是系统化的判断流程：
- 确定事件的最小持续时间：观察训练数据中目标事件的最短时长。例如，快速挥手的动作可能仅持续300ms，而设备异常振动可能持续数秒。窗口长度应至少覆盖事件时长的1.5倍，以确保包含足够的上下文。
- 评估计算预算：在目标硬件上测试单次推理的耗时。如果推理耗时50ms，那么步长不应小于50ms，否则系统将无法实时处理。通常建议步长为推理耗时的2-5倍，留出余量。
- 考虑事件的时间精度需求：语音唤醒词“Hey Edge”大约持续600ms，但用户可能在任何时刻说出。如果步长为500ms，那么唤醒词可能被两个窗口各截断一半，导致识别失败。此时需要减小步长（如100ms）或增加窗口重叠。
- 利用Edge Impulse的“Model Testing”功能：在部署前，使用验证集数据模拟连续推理过程，观察不同窗口参数下的混淆矩阵和延迟指标。Edge Impulse的“Classify”标签页允许你上传长音频或连续传感器数据，并可视化每个窗口的预测结果。
| 场景 | 推荐窗口长度 | 推荐步长（Window increase） | 重叠率 | 主要考量 |
|---|---|---|---|---|
| 手势识别（IMU） | 200-500ms | 20-50ms | 80-90% | 动作起止点模糊，需高时间分辨率 |
| 异常检测（振动） | 1-5秒 | 0.5-1秒 | 50-80% | 异常特征持续较长，允许较低响应频率 |
| 语音唤醒（关键词） | 30-50ms（帧级） | 10-20ms | 60-70% | 需要帧级特征，配合状态机做关键词检测 |
| 连续活动识别 | 2-10秒 | 1-2秒 | 50-80% | 活动状态变化缓慢，可接受秒级延迟 |
3.3 案例拆解：工业设备异常检测的连续推理实战
让我们通过一个完整的工业案例来理解连续推理的工程实现。某工厂需要在旋转机械上部署振动监测系统，目标是检测轴承的早期磨损。传感器以4kHz采样率采集加速度数据，部署在基于STM32H7的Edge Impulse设备上。
初始现象与目标：初期采用单次触发模式，每10秒采集一次1秒长度的数据并推理。结果发现，轴承故障的早期信号（高频冲击）持续时间极短（约50ms），且出现频率不规则。10秒的采样间隔导致大量故障事件被遗漏，漏报率高达40%。
关键输入数据与参数：通过Edge Impulse的频谱分析工具，发现故障特征集中在2kHz-3kHz频段。单次推理耗时约80ms（包括FFT和分类器）。设备内存足够缓存4秒的原始数据。
分析判断过程：工程师决定改用连续推理。首先，将窗口长度设为1024个样本（约256ms），这能包含至少5个故障冲击周期。步长设为256个样本（64ms），确保每个冲击事件至少被3个窗口覆盖。此时重叠率为75%。
实际操作步骤：
- 在Edge Impulse中重新生成Impulse，设置Window size=1024，Window increase=256。
- 重新训练模型，并在“Model Testing”中上传一段包含已知故障的连续振动数据（时长5分钟），验证每个窗口的预测输出。
- 部署到设备后，在代码中实现输出平滑：维护一个长度为5的预测历史队列，只有当连续3个窗口预测为“故障”时才触发报警。
结果对比：漏报率从40%降至2%以下，报警延迟从平均5秒降至200ms以内。代价是CPU占用率从15%升至45%，但仍在STM32H7的预算内。
风险与代价：连续推理导致功耗增加约30%，对于电池供电的设备需要重新评估。此外，75%的重叠意味着每秒执行约15次推理，产生大量冗余计算。
复盘经验：输出平滑策略（连续N次确认）是抑制误报的关键。单纯依赖单窗口的置信度阈值会产生大量抖动，而多数投票机制能有效滤除随机噪声。
常见误区警示：不要盲目追求高重叠率。虽然重叠能提高时间分辨率，但也会成倍增加计算量。在电池供电的无线传感器节点上，过高的重叠率可能导致设备过热或电池快速耗尽。建议从50%重叠率开始测试，逐步增加直到满足精度要求。
3.4 常见误区与总结复盘
在连续推理系统的开发中，以下三个误区最为常见：
- 误区一：窗口越长越好。长窗口包含更多上下文，但也会稀释短时事件的能量。对于瞬态异常（如冲击脉冲），过长的窗口反而会降低信噪比。正确做法是让窗口长度与事件特征尺度匹配。
- 误区二：忽略输出平滑。直接使用原始推理结果会导致预测标签在相邻窗口间频繁跳变。例如，手势识别中，一个窗口预测为“挥手”，下一个窗口预测为“静止”，再下一个又变回“挥手”。这种抖动在用户交互中是不可接受的。
- 误区三：混淆“推理频率”与“采样频率”。采样频率决定了数据的细节，而推理频率（即1/步长）决定了系统的响应速度。两者独立配置，但都受限于硬件算力。