4、模型选择与评估：根据部署需求选择合适的YOLO轻量模型

在V853目标检测部署项目中，模型选择是整个部署链路的起点，也是决定最终产品性能上限的关键决策点。V853芯片集成1TOPS算力的NPU，面向的是IPC、智能门锁、低功耗视觉模组等边缘场景，这意味着我们既不能直接搬用YOLOv8x这类大模型，也不能盲目追求极致的轻量化而牺牲检测精度。本章将围绕“部署需求→候选模型→评估指标→实测验证”这条主线，系统讲解如何在YOLO轻量模型家族中做出合理选择，并给出可复用的评估流程与决策方法。

上图展示了模型选型的完整决策链路：从部署需求出发，构建候选模型池，通过多维度评估后输出最优配置，并形成反馈闭环。下面我们将逐一拆解每个环节的具体操作方法和判断依据。

4.1 核心原理：为什么轻量模型不能只看参数量

很多初学者在选择模型时，习惯性地将“参数量”作为首要甚至唯一指标。但在NPU部署场景下，这个思路存在严重偏差。V853的NPU采用类硬件加速器架构，其计算效率不仅取决于模型参数量，更取决于算子类型、数据流模式、内存访问密度等因素。例如，一个参数量为2.5M的YOLOv5n，如果其Focus层或SPP层在NPU上不支持高效实现，实际推理延迟可能反而不如参数量稍大但算子更规整的YOLOv8n。

另一个核心概念是计算量（FLOPs）与内存带宽的权衡。NPU的MAC阵列利用率决定了理论算力能发挥多少，而内存带宽则限制了数据搬运速度。轻量模型通常通过减少通道数和网络深度来降低FLOPs，但过度压缩会导致特征图分辨率与通道数不匹配，造成NPU内部缓冲区利用率下降，出现“算力有余、带宽不足”的瓶颈。

此外，量化敏感性是轻量模型选型中极易被忽略的维度。V853 NPU主要支持INT8/INT16量化推理。某些模型结构（如使用SiLU激活、含大量Add残差连接的模型）在INT8量化后精度下降明显，而ReLU+BN结构的模型则相对鲁棒。这意味着，一个在FP32下mAP为0.78的模型，量化后可能跌到0.70；而另一个FP32下mAP为0.76的模型，量化后反而能保持0.74。因此，选型必须将“量化后精度”作为核心评估项。

4.2 判断方法：三维评估体系与操作流程

针对V853平台，我们建立一套可量化的三维评估体系，每个维度包含具体指标和测量方法。

4.2.1 精度维度评估

精度评估不能只看COCO预训练权重在通用数据集上的mAP，必须使用目标场景数据集进行迁移学习后的验证。具体流程如下：

1. 数据集准备：收集500~2000张目标场景图片（如室内人体检测、车辆识别），按7:2:1划分训练/验证/测试集。
2. 统一训练配置：所有候选模型使用相同的训练轮数（如100 epoch）、相同的优化器（SGD with momentum=0.937）、相同的输入分辨率（如640×640）进行微调。
3. 指标采集：记录每个模型的mAP@0.5、mAP@0.5:0.95、以及针对特定小目标（如行人、远距离车辆）的AP_small。

这里需要特别关注小目标检测能力。V853常见应用场景（如安防摄像头、门锁人形检测）中，目标往往只占图像面积的1%~5%。YOLOv5n的检测头在浅层特征图上对小目标响应较弱，而YOLOv8n引入了更细粒度的检测头，在小目标上通常有更好表现。

4.2.2 速度与资源维度评估

速度评估必须基于V853 NPU工具链（如AXERA的Tina SDK或全志NPU工具链）进行实测，而非在PC上使用GPU/CPU推理。具体步骤：

1. 模型转换：将PyTorch模型导出为ONNX，再通过NPU工具链转换为可执行的模型格式（如AXF）。
2. 算子兼容性检查：查看转换日志，确认是否有算子被替换为低效实现或直接不支持。常见问题包括：SiLU激活在某些NPU上被拆分为多个算子、Focus层需要手动重构、Gather/Scatter操作不支持等。
3. 板端实测：编写测试程序，连续运行100帧，取平均延迟。同时通过/proc/meminfo或NPU工具监控内存占用。

资源占用方面，除了模型权重大小，还需关注运行时内存峰值。NPU推理时，中间特征图、临时缓冲区、输入输出缓冲都会占用内存。例如，一个输入为640×640的YOLOv8n，其运行时内存峰值可能达到模型文件大小的5~8倍。

4.2.3 综合评分表

评估维度	权重	测量方法	V853目标值
量化后mAP@0.5	35%	INT8量化后在测试集上验证	≥0.80
NPU推理延迟	30%	板端实测，输入640×640	≤33ms（30FPS）
运行时内存峰值	15%	NPU工具监控	≤150MB
模型文件大小	10%	转换后AXF文件大小	≤10MB
算子兼容性	10%	转换日志人工审查	无低效替换

评分时，将每个候选模型的实测值映射为0~1分，再乘以权重求和。例如，YOLOv8n量化后mAP为0.82（得分0.9），延迟28ms（得分0.85），内存120MB（得分0.8），文件大小6MB（得分0.9），算子兼容性良好（得分1.0），则综合得分=0.9×0.35+0.85×0.3+0.8×0.15+0.9×0.1+1.0×0.1=0.875。

4.3 案例拆解：V853智能门锁人形检测模型选型实战

下面通过一个完整的实战案例，展示上述评估方法的具体应用。

项目背景与约束：某智能门锁产品需要实现“门前人形检测”功能，检测距离3~5米，目标为站立或行走的人体。硬件平台为V853，内存256MB，NPU算力1TOPS。产品要求：检测帧率≥25FPS，误报率≤1次/天，整机功耗≤3W（其中NPU部分≤1.5W）。

初始候选模型：YOLOv5n、YOLOv8n、YOLOv10n、YOLO11n。输入分辨率统一为640×640。

关键输入数据：自建数据集共1200张门锁视角图片，其中人形目标约1800个，平均目标高度占图像高度的8%~15%。训练100个epoch后，各模型FP32精度如下：

• YOLOv5n：mAP@0.5=0.861，AP_small=0.742
• YOLOv8n：mAP@0.5=0.878，AP_small=0.793
• YOLOv10n：mAP@0.5=0.871，AP_small=0.768
• YOLO11n：mAP@0.5=0.883，AP_small=0.801

NPU转换与实测：将四个模型分别导出ONNX并转换。转换日志显示：YOLOv5n的Focus层被自动替换为普通卷积+切片操作，增加了约15%的FLOPs；YOLOv10n的某些2D位置编码算子被拆分为多个小算子，导致NPU流水线停顿。板端实测结果如下：

模型	INT8量化后mAP@0.5	NPU延迟(ms)	内存峰值(MB)	模型大小(MB)
YOLOv5n	0.823	31	98	4.2
YOLOv8n	0.851	28	112	5.8
YOLOv10n	0.834	35	126	6.1
YOLO11n	0.849	29	118	6.0

分析判断过程：YOLOv8n在量化后精度最高（0.851），延迟28ms满足25FPS要求，内存112MB在预算内。YOLO11n精度接近但内存略高。YOLOv5n虽然模型最小，但量化后精度下降明显（从0.861降至0.823），且Focus层转换后效率降低。YOLOv10n延迟35ms不满足帧率要求。

实际操作步骤：选择YOLOv8n作为最终模型，进一步优化输入分辨率至576×576（目标高度占比提升至10%~18%），延迟降至22ms，量化后mAP提升至0.863。最终部署方案：YOLOv8n + 576×576输入 + INT8量化，实测帧率32FPS，误报率0.3次/天，NPU功耗1.2W。

风险与代价：降低输入分辨率虽然提升了速度，但对更远距离（>5米）的小目标检测能力有所下降。作为补偿，在预处理阶段增加了ROI区域裁剪，仅对画面中间60%区域进行检测，既保证了远处目标的分辨率，又控制了计算量。

4.4 常见误区与总结复盘

在模型选型过程中，以下误区需要特别警惕：

• 误区一：只看COCO预训练精度。COCO数据集包含80类、大中小目标均衡，而实际场景往往只有2~5类且目标尺度单一。预训练精度高不代表迁移后精度高，必须用目标数据重新评估。
• 误区二：忽略量化感知训练（QAT）。V853 NPU虽然支持训练后量化（PTQ），但对于轻量模型，PTQ往往导致1~3个百分点的精度损失。如果时间允许，建议对最终选定的模型进行QAT微调，通常可恢复0.5~1个百分点的精度。
• 误区三：将GPU延迟等同于NPU延迟。GPU上YOLOv5n可能比YOLOv8n快20%，但在NPU上由于算子映射差异，结果可能完全反转。一切以板端实测为准。
• 误区四：忽视预处理开销。图像缩放、归一化、通道变换（NHWC/NCHW）等预处理在CPU上执行，会占用额外时间。在V853上，建议将预处理合并到NPU计算图中，或使用硬件加速的ISP管线。

总结复盘：模型选择与评估是一个迭代过程，而非一次性决策。建议建立“候选池-快速筛选-深度验证”的三级流程：先用公开基准和算子兼容性快速排除明显不合适的模型，再对剩余2~3个模型进行完整的数据集训练和板端实测，最后对胜出模型进行输入分辨率和量化策略的联合调优。整个过程中，保持对“精度-速度-资源”三角的量化追踪，避免凭感觉做决定。