边缘AI与人员检测概述
人员检测是边缘AI最具商业价值的落地场景之一，从智能安防、零售客流统计到工业安全巡检，均依赖在资源受限的嵌入式设备上实时识别画面中的人体目标。与云端推理不同，边缘部署要求模型在功耗、内存、算力三重约束下保持可用精度与帧率。本章将系统梳理人员检测的典型应用场景、边缘部署的核心挑战，并对比MobileNet SSD与YOLO系列模型在边缘设备上的适配特性，为后续基于Ethos-U NPU的Vela编译优化建立必要的技术认知。
2.1 人员检测应用场景与业务价值
人员检测（Person Detection）是计算机视觉中目标检测的一个细分方向，其核心任务是在图像或视频帧中定位所有人体目标，并输出边界框（Bounding Box）和置信度。与通用目标检测不同，人员检测对实时性、隐私性、部署成本有更严苛的要求，因此成为边缘AI落地的最佳试验场。
2.1.1 核心应用场景拆解
| 场景领域 | 典型需求 | 边缘部署优势 | 关键指标 |
|---|---|---|---|
| 智能安防监控 | 周界入侵检测、异常行为预警 | 本地实时响应，避免网络延迟 | 检测延迟 < 200ms，误报率低 |
| 零售客流分析 | 进店人数统计、区域热力分布 | 数据本地处理，保护顾客隐私 | 计数准确率 > 95%，支持多人 |
| 工业安全巡检 | 危险区域人员闯入告警 | 断网可用，适应恶劣环境 | 漏报率 < 1%，7×24小时稳定 |
| 智能家居/办公 | 人体存在感知、自动节能控制 | 低功耗常开，无需云端交互 | 功耗 < 1W，响应 < 1s |
| 车载辅助驾驶 | 行人碰撞预警（AEB辅助） | 毫秒级推理，保障行车安全 | 帧率 > 30FPS，检测距离 > 50m |
以智能安防为例，传统方案依赖云端分析，每路摄像头每小时产生约2-4GB视频数据，传输和存储成本极高。边缘部署后，摄像头端直接完成人员检测，仅上传告警截图和元数据，带宽消耗降低90%以上。更重要的是，在断网或网络抖动场景下，边缘设备仍能独立工作，这对工厂、仓库等关键基础设施尤为重要。
2.2 边缘部署的核心挑战
将人员检测模型部署到边缘设备，并非简单地把模型文件拷贝到嵌入式平台。开发者需要面对来自硬件资源、运行环境、业务需求三个维度的系统性挑战。
2.2.1 硬件资源约束
- 算力限制：典型的边缘MCU（如Cortex-M55）算力仅为0.5-2 GOPS，而MPU（如Cortex-A53）约为10-50 GOPS。相比之下，云端GPU可达数百TOPS。这意味着模型必须经过深度优化才能在边缘运行。
- 内存瓶颈：边缘设备SRAM通常只有几百KB到几MB，DRAM为几十到几百MB。以MobileNet SSD为例，FP32模型权重约20MB，激活值约5MB，直接部署会超出多数MCU的内存上限。
- 功耗约束：电池供电设备要求平均功耗低于1W，峰值功耗不超过3W。NPU的能效比（TOPS/W）成为关键指标，Ethos-U55在8位量化下可达1-4 TOPS/W。
2.2.2 运行环境与实时性挑战
边缘设备的操作系统、编译器、驱动栈各不相同，模型需要适配特定的推理引擎（如TensorFlow Lite Micro、CMSIS-NN、Vela优化后的自定义运行时）。同时，人员检测通常要求实时处理视频流，以25FPS为例，单帧处理预算仅为40ms，这包含了图像采集、预处理、推理、后处理的全链路时间。
2.2.3 精度与速度的权衡策略
边缘部署通常采用以下技术组合来平衡精度与速度：
- 模型量化：将FP32权重转为INT8，模型体积缩小4倍，推理速度提升2-4倍，但精度可能下降1%-3%。
- 模型剪枝：移除不重要的通道或层，减少计算量，但需要重新微调。
- 知识蒸馏：用大模型指导小模型训练，提升小模型精度。
- 输入分辨率控制：从640×640降至320×320，计算量减少75%，但小目标检测能力下降。
2.3 典型人员检测模型：MobileNet SSD与YOLO系列
在边缘AI领域，MobileNet SSD和YOLO系列是最具代表性的两类模型，它们分别代表了轻量级高效路线和高精度高性能路线。
2.3.1 MobileNet SSD：轻量级首选
MobileNet SSD由Google提出，采用MobileNet作为骨干网络提取特征，SSD（Single Shot MultiBox Detector）作为检测头。其核心优势在于深度可分离卷积（Depthwise Separable Convolution），将标准卷积分解为深度卷积和逐点卷积，计算量降低8-9倍。
| 模型版本 | 输入尺寸 | 参数量 | 计算量 | mAP (COCO) | 适用设备 |
|---|---|---|---|---|---|
| MobileNetV1-SSD | 300×300 | 5.5M | 1.1 GMACs | 22.4% | MCU/低端MPU |
| MobileNetV2-SSD | 320×320 | 4.3M | 0.8 GMACs | 22.1% | MCU/低端MPU |
| MobileNetV3-SSD | 320×320 | 3.4M | 0.6 GMACs | 23.5% | MCU/中端MPU |
在Ethos-U55 NPU上，MobileNetV2-SSD经过Vela编译和INT8量化后，推理延迟可控制在50-80ms（320×320输入），内存占用约3-5MB，非常适合Cortex-M55等MCU平台。其检测精度足以应对固定场景下的人员计数和存在检测。
2.3.2 YOLO系列：高性能之选
YOLO（You Only Look Once）系列以单阶段检测著称，将目标检测视为回归问题，一次前向传播同时输出边界框和类别概率。YOLO系列经历了多个版本迭代，在边缘部署中常用的是YOLOv5n、YOLOv8n等轻量变体。
| 模型版本 | 输入尺寸 | 参数量 | 计算量 | mAP (COCO) | 适用设备 |
|---|---|---|---|---|---|
| YOLOv5n | 640×640 | 1.9M | 4.5 GMACs | 28.0% | 中高端MPU |
| YOLOv8n | 640×640 | 3.2M | 8.7 GMACs | 37.3% | 高端MPU/边缘GPU |
| YOLOv8s | 640×640 | 11.2M | 28.6 GMACs | 44.9% | 边缘GPU/NPU |
YOLO系列的优势在于检测精度高、小目标召回率好，但计算量远大于MobileNet SSD。在Ethos-U55这类NPU上，YOLOv5n经过优化后推理延迟约150-250ms，勉强达到实时性要求；而YOLOv8n则更适合Cortex-A系列MPU或搭配Ethos-U65等更高性能NPU。
- 若设备为MCU（Cortex-M系列）且内存 < 8MB → 选择MobileNetV2-SSD或更轻量的MobileNetV3-SSD
- 若设备为MPU（Cortex-A系列）且内存 > 64MB → 选择YOLOv5n或YOLOv8n
- 若业务需要检测小目标（如远距离行人）→ 优先YOLO系列，并考虑提高输入分辨率
- 若业务仅需人员存在/计数 → MobileNet SSD足够，且功耗更低
2.4 案例拆解：智能摄像头的人员检测方案选型
某智慧园区项目需要在园区出入口部署人员检测摄像头，用于统计进出人数并识别尾随入侵。设备硬件为Cortex-M55 + Ethos-U55 NPU，SRAM 2MB，外部DRAM 64MB，电池供电，要求平均功耗低于1.5W，检测延迟低于150ms。
2.4.1 初始方案与问题
开发团队最初选择YOLOv5n模型，输入分辨率640×640，FP32精度。实测结果：单帧推理延迟420ms，内存占用58MB（超出DRAM预算），功耗2.8W（超出电池供电能力）。显然，该方案无法满足约束条件。
2.4.2 优化过程与关键决策
- 模型替换：将YOLOv5n替换为MobileNetV2-SSD，输入分辨率降至320×320。推理延迟降至180ms，内存占用降至12MB，功耗降至1.2W。
- INT8量化：使用Vela编译器进行8位量化，模型权重从5.5MB压缩至1.4MB，推理延迟进一步降至95ms，内存占用降至4.5MB。
- 输入分辨率微调：将输入从320×320降至288×288，延迟降至75ms，但检测精度mAP下降2.1%。经测试，在园区出入口场景下，人员目标较大，精度下降可接受。
- 后处理优化：将NMS算法从CPU实现改为NPU加速，减少8ms延迟。
2.4.3 最终效果与复盘
| 指标 | 初始方案 | 优化后 | 变化 |
|---|---|---|---|
| 推理延迟 | 420ms | 67ms | ↓84% |
| 内存占用 | 58MB | 4.2MB | ↓93% |
| 平均功耗 | 2.8W | 0.9W | ↓68% |
| 检测精度(mAP) | 28.0% | 21.3% | ↓6.7% |
最终方案在满足所有约束的前提下，实现了人员检测功能。复盘经验：模型选型应优先考虑硬件约束，而非追求最高精度。YOLOv5n虽然精度更高，但在该硬件平台上无法满足实时性和功耗要求。MobileNet SSD配合量化、分辨率调整，反而实现了更优的整体效果。
2.5 常见误区与总结
在边缘AI人员检测的实践中，开发者常陷入以下误区：
- 误区一：追求最高精度模型。精度最高的模型往往计算量巨大，在边缘设备上无法实时运行。正确做法是选择满足业务最低精度要求的模型，再通过优化手段提升性能。
- 误区二：忽略前后处理耗时。图像缩放、格式转换、NMS等操作在边缘设备上可能成为瓶颈。应使用NEON指令、NPU加速或硬件编解码器来优化这些环节。
- 误区三：量化后不验证精度。INT8量化在极端情况下可能导致精度下降超过10%。量化后必须使用真实场景数据重新评估，必要时进行量化感知训练（QAT）。
- 误区四：只关注推理延迟，忽略端到端延迟。从摄像头采集到画面显示，中间还有ISP处理、传输等环节。端到端延迟才是用户体验的关键指标。
总结而言，边缘AI人员检测是一个系统工程，需要从场景需求出发，在硬件约束下选择合适的模型，并通过量化、编译优化、前后处理加速等手段，最终实现精度、速度、资源占用的平衡。本章建立的场景-挑战-模型认知框架，将为后续深入理解Vela编译器的优化策略奠定基础。