边缘计算基础：边缘设备类型、算力与内存限制、典型Edge AI应用场景
在讨论模型架构搜索（如TinyNAS）之前，必须先理解边缘设备这一物理约束的“天花板”。边缘AI的模型设计不是追求理论上的最优精度，而是在给定功耗、内存、算力和实时性约束下寻找“足够好”的解决方案。本章将系统梳理边缘设备的分类、硬件资源限制的量化特征，以及典型应用场景对模型架构的差异化需求，为后续学习硬件感知搜索（Hardware-Aware NAS）建立必要的工程认知。
2.1 边缘设备的分类与硬件特征
边缘设备并非一个统一的硬件类别，而是从超低功耗微控制器到高性能边缘计算模组的连续谱系。理解这一谱系是进行模型架构搜索的前提，因为不同设备对模型参数量、算子类型和内存访问模式的容忍度差异巨大。
2.1.1 设备分类与典型代表
| 设备类别 | 典型硬件 | 算力范围 | 内存容量 | 功耗预算 | 典型OS/框架 |
|---|---|---|---|---|---|
| MCU级 | STM32F4、ESP32、RP2040 | 0.01-0.1 GOPS | 256KB-2MB Flash，64-512KB SRAM | 1-100mW | 裸机/FreeRTOS，TFLite Micro |
| 应用处理器级 | 树莓派4、RK3588、i.MX8M | 0.5-5 TOPS（含NPU） | 2-8GB LPDDR4 | 2-10W | Linux，ONNX Runtime/TFLite |
| 边缘加速卡 | Jetson Orin Nano、Intel Movidius | 5-40 TOPS | 4-16GB LPDDR5 | 5-30W | Linux，TensorRT/OpenVINO |
| FPGA | Xilinx Zynq UltraScale+ | 可定制，等效1-10 TOPS | 外部DDR4，片上BRAM有限 | 5-20W | Vitis AI，自定义流水线 |
从模型架构搜索的角度看，MCU级设备通常只能运行参数量在1MB以内的二值或极低比特量化模型，且算子类型必须高度受限（如仅支持Conv2D、DepthwiseConv2D、Add、ReLU等基础算子）。而应用处理器级设备则可以承载MobileNetV3、EfficientNet-Lite等轻量级CNN，甚至部分经过剪枝的Transformer模型。
2.2 算力与内存限制的量化分析
在进行硬件感知搜索之前，必须将设备的物理限制转化为可量化的模型设计约束。这些约束直接影响搜索空间的构建和评估函数的设计。
2.2.1 算力约束（Compute Bound）
算力约束通常以MACs（乘加操作数）或FLOPs衡量。对于边缘设备，更实用的指标是延迟（Latency）而非理论FLOPs，因为实际延迟受内存层次结构影响极大。例如，一个需要10M MACs的模型在Cortex-M4上（无硬件加速器）可能需要约50ms，而在带DSP的Cortex-M7上可能只需15ms。
// 估算MCU上模型推理延迟的简化公式
// Latency ≈ (总MACs / 有效MAC吞吐率) + 内存访问开销
// 有效MAC吞吐率 ≈ 主频 × 每周期MAC数 × 利用率系数(0.3~0.7)
// 内存访问开销 ≈ 权重总量 / 内存带宽 × 2（读权重+写激活）
// 示例：STM32F4 @168MHz，每周期1 MAC，利用率0.4
// 模型：1M MACs，权重500KB，SRAM带宽约200MB/s
// 计算时间 = 1e6 / (168e6 × 0.4) ≈ 14.9ms
// 内存时间 = 500KB × 2 / 200MB/s ≈ 5ms
// 总延迟 ≈ 20ms（满足30ms实时性要求）2.2.2 内存约束（Memory Bound）
内存约束包含三个层面：存储容量（Flash/ROM用于存放权重）、运行内存（SRAM/DDR用于存放激活值和中间结果）、内存带宽（单位时间可搬运的数据量）。对于TinyNAS这类面向MCU的搜索算法，通常将权重存储和激活内存作为硬约束，超过限制的候选架构直接淘汰。
| 内存类型 | 典型容量 | 对模型的影响 | 搜索时的处理方式 |
|---|---|---|---|
| Flash（存储权重） | 256KB-16MB | 限制模型参数量上限 | 硬约束：参数量×量化比特 ≤ Flash容量 |
| SRAM（激活内存） | 64KB-8MB | 限制特征图尺寸和通道数 | 硬约束：峰值激活内存 ≤ SRAM容量 |
| DDR（外部内存） | 512MB-16GB | 影响延迟，不直接影响可行性 | 软约束：减少DDR访问次数作为优化目标 |
2.3 典型Edge AI应用场景与模型需求
不同的应用场景对模型的精度、延迟、功耗和鲁棒性要求各不相同。理解这些差异化需求，有助于在架构搜索时设置合理的评估权重。
2.3.1 智能安防与视觉检测
该场景通常部署在应用处理器级设备上，要求模型在2-10W功耗下实现实时（≥30FPS）目标检测。典型模型为YOLO系列轻量版或SSD-MobileNet。关键约束是延迟一致性——不能出现偶发性的帧率抖动，因此搜索时需关注最坏情况延迟而非平均延迟。
2.3.2 工业预测性维护
振动信号分析通常使用1D-CNN或LSTM，部署在MCU或工业网关。模型输入为1024-4096点的振动波形，采样率4-20kHz。该场景对确定性延迟要求极高（通常<10ms），且模型需具备一定的抗噪能力。架构搜索时需考虑时间序列特征提取的效率。
2.3.3 可穿戴健康监测
ECG/PPG信号分析是典型的MCU级应用。模型需在1mW级功耗下持续运行，通常使用二值化或1-bit量化网络。关键指标是能效比（FPS/mW），而非单纯延迟。例如，一个0.5MB的模型在Cortex-M4上实现10ms推理，但功耗为5mW，可能不如一个1MB模型推理20ms但功耗仅2mW的方案。
2.4 案例拆解：智能门锁的人脸识别模型选型
某智能门锁厂商需要在其新一代产品中集成本地人脸识别功能，用于家庭成员识别和陌生人告警。设备硬件为：Cortex-A53双核1.5GHz，集成0.8 TOPS NPU，内存1GB LPDDR3，功耗预算3W（含屏幕和通信模块）。
初始目标与约束：
- 识别准确率：在自采数据集上Top-1 ≥ 98%（1000类，每类20张训练样本）
- 端到端延迟：从按下门铃到识别完成 ≤ 500ms（含图像采集和预处理）
- 模型存储：≤ 8MB（Flash分区限制）
- 运行内存：≤ 200MB（与系统其他进程共享）
分析过程：
首先评估现有模型：MobileNetV2-1.0（6.9M参数，300M MACs）在NPU上推理约80ms，准确率98.5%，但模型大小7.2MB接近上限。MobileNetV3-Large（5.4M参数，217M MACs）推理约65ms，准确率98.2%，模型大小5.6MB。两者均满足约束，但考虑到门锁设备温度范围-20℃~60℃，NPU性能可能下降20%，需要预留余量。
实际操作步骤：
- 使用TinyNAS搜索空间，约束条件设为：MACs ≤ 250M，模型大小 ≤ 6MB，激活内存 ≤ 50MB
- 搜索策略采用硬件感知的进化算法，评估函数中延迟权重设为0.6，准确率权重0.4
- 在NPU上实测候选架构，发现部分搜索出的架构虽然MACs较低，但算子类型（如SE模块）在NPU上效率低下，实际延迟反而更高
- 调整搜索空间，禁止SE模块，增加深度可分离卷积的通道数搜索范围
- 最终搜索出的架构：5.2M参数，230M MACs，NPU实测延迟72ms，准确率98.3%
结果对比与复盘：
| 方案 | 准确率 | 延迟(ms) | 模型大小(MB) | 结论 |
|---|---|---|---|---|
| MobileNetV2-1.0 | 98.5% | 80 | 7.2 | Flash空间紧张 |
| MobileNetV3-Large | 98.2% | 65 | 5.6 | 可接受，但无余量 |
| TinyNAS搜索架构 | 98.3% | 72 | 5.4 | 最优平衡，留有余量 |
风险与代价：搜索过程耗时约3天（使用1000个样本的子集进行快速评估），且需要人工审查搜索结果以确保算子兼容性。最终方案在-20℃低温测试中延迟升至85ms，仍满足500ms端到端要求。
2.5 常见误区与总结
在边缘AI项目实践中，以下误区值得特别注意：
- 误区一：认为算力越高的设备越好。实际上，高算力往往伴随高功耗和高成本，对于电池供电设备，能效比才是核心指标。
- 误区二：只关注模型参数量而忽略激活内存。许多轻量模型在推理时激活内存可能超过权重存储，导致内存溢出。
- 误区三：忽视内存带宽瓶颈。即使算力充足，频繁的DDR访问也会成为延迟瓶颈，尤其在NPU上。
- 误区四：用GPU上的优化经验直接套用边缘设备。GPU擅长并行计算，而MCU/NPU对算子类型和内存访问模式有严格限制。