课程导入：学习目标、核心概念、整体框架——理解Edge AI压缩实验管理的重要性

欢迎进入《Edge AI压缩实验管理》课程。在正式开始之前，我们需要先回答一个根本性问题：为什么在边缘人工智能（Edge AI）的开发流程中，压缩实验的管理会成为一个独立的、值得专门学习的工程领域？答案在于边缘环境的严苛约束与模型迭代的复杂性之间的尖锐矛盾。当模型部署到手机、摄像头、车载芯片或MCU上时，我们不仅要面对算力、内存、功耗的硬性天花板，还要在频繁的压缩尝试中保持实验的可追溯性、可对比性和可复现性。本章将作为整个课程的地基，帮助你建立对压缩实验管理的全局认知，明确学习路径，并掌握核心术语与判断框架。

上图展示了本课程的核心思维框架：从预训练模型出发，经过剪枝、量化、蒸馏等压缩技术处理后，必须通过系统化的实验管理来确保每一次压缩尝试都被准确记录、评估和对比，最终才能安全地部署到边缘设备。值得注意的是，右侧的“边缘约束”并非静态背景，而是贯穿整个实验管理过程的“隐形之手”——每一次压缩决策本质上都是在这些约束下寻找最优平衡点。

1.1 学习目标：从“能压缩”到“会管理”

本课程的学习目标不是教你如何运行一条torch.prune命令或调用一次量化API，而是帮助你建立一套完整的实验管理思维与操作体系。具体而言，完成本章及后续学习后，你应该具备以下四项核心能力：

• 建立版本化实验台账：能够为每一次压缩实验分配唯一标识，记录代码版本、数据集版本、超参数配置、压缩策略参数以及环境依赖，确保任何一次实验结果都可以被精确回溯。
• 掌握多维度指标追踪方法：不仅关注模型精度（如Top-1 Accuracy），还要同步追踪模型体积（参数量/存储大小）、推理延迟（单帧耗时）、内存占用（峰值/均值）、功耗（mJ/推理）等边缘关键指标，并理解它们之间的权衡关系。
• 具备实验对比与决策能力：能够设计科学的对比实验，使用可视化工具或表格分析不同压缩方案在多个维度上的优劣，并基于业务需求（如实时性优先还是精度优先）做出合理的方案选择。
• 实现实验可复现与团队协作：掌握冻结随机种子、固定环境版本、记录数据预处理Pipeline等技巧，使实验能够在不同机器或不同时间点被复现，同时支持多人协作场景下的实验共享与评审。

1.2 核心概念：压缩实验管理的四大支柱

在Edge AI压缩实验管理中，有四个核心概念构成了整个知识体系的支柱。理解这四个概念，是后续所有操作的基础。

核心概念	定义与内涵	在压缩实验中的具体体现
实验版本	对一次完整实验过程的唯一快照，包含代码、数据、配置、环境、结果的全量信息。	例如exp_20240521_resnet50_qat_int8_v3，记录了使用ResNet50、QAT量化感知训练、INT8精度、第三次迭代的全部信息。
指标体系	用于量化评估模型压缩效果的多维度量集合，分为模型质量指标和边缘性能指标两大类。	质量指标：Accuracy、mAP、F1-Score；性能指标：模型体积（MB）、推理延迟（ms）、峰值内存（MB）、功耗（mJ）。
实验对比	在控制变量的前提下，对不同压缩方案或不同超参数配置的结果进行系统性比较。	固定同一验证集，对比INT8量化与FP16量化的精度损失和延迟收益，形成决策矩阵。
可复现性	在相同条件下，实验能够被重复执行并得到一致结果的能力。	固定随机种子、锁定依赖库版本（如requirements.txt）、记录数据集的哈希值。

这四个概念并非孤立存在，而是形成了一个有机整体：实验版本是载体，指标体系是度量标准，实验对比是分析方法，可复现性是质量保障。缺少任何一个环节，实验管理都会出现“短板效应”。例如，如果只记录指标而不记录版本，那么当发现一个效果优异的实验时，你将无法回溯其具体配置，导致“好结果无法复用”的尴尬局面。

1.3 整体框架：五阶段实验管理流程

为了将上述概念落地到实际工作中，本课程设计了一套五阶段的实验管理流程。这套流程从实验设计开始，到最终部署验证结束，覆盖了压缩实验的完整生命周期。

1. 阶段一：实验规划——明确压缩目标（如“将模型体积压缩50%且精度损失不超过2%”），确定基线模型、数据集、评估协议，并预估所需计算资源。
2. 阶段二：实验配置与启动——生成实验配置（JSON/YAML），初始化版本控制标签，记录环境信息，启动训练/压缩任务。
3. 阶段三：过程监控与日志记录——实时采集训练/压缩过程中的指标（损失值、梯度范数、中间精度），记录关键事件（如学习率调整、量化感知训练中的伪量化误差）。
4. 阶段四：结果评估与对比——在统一验证集上评估压缩后模型，生成多维指标报告，与基线及历史实验进行对比，可视化权衡曲线。
5. 阶段五：部署验证与归档——将模型转换到目标推理框架（如TensorRT、TFLite、CoreML），在真实边缘设备上进行端到端测试，确认满足约束后归档实验记录。

1.4 案例拆解：一个典型的压缩实验管理场景

为了让你更直观地理解上述框架，我们来看一个简化的场景化案例。假设你是一名算法工程师，正在为某安防摄像头开发一款行人检测模型，目标设备是海思Hi3516DV300芯片（4TOPS INT8算力，256MB内存）。

初始状态：你有一个在GPU上训练好的YOLOv5s模型（FP32，14.4MB，mAP@0.5=0.72），但直接部署到Hi3516上时，推理延迟高达320ms，远超实时性要求（≤50ms），且内存占用超标。

实验管理介入：你没有直接开始“盲调”压缩参数，而是按照五阶段流程操作：

• 规划：设定目标——模型体积≤5MB，延迟≤45ms，mAP@0.5≥0.65。确定基线为FP32模型，验证集为500张已标注的监控场景图片。
• 配置：创建实验exp_20240521_yolov5s_ptq_int8_v1，记录PyTorch 1.13、CUDA 11.7、YOLOv5 commit hash、数据集版本v2.3。
• 监控：在PTQ（训练后量化）过程中，记录每层激活值的动态范围，发现第17层（检测头前的特征融合层）的激活值分布异常宽（-12.3~+15.8），可能导致量化精度损失。
• 评估：INT8量化后模型体积降至3.8MB，延迟降至38ms，但mAP降至0.58，低于0.65的目标。对比发现，精度损失主要来自第17层。
• 部署验证与迭代：基于监控阶段的发现，你决定对该层采用混合精度（保留FP16），创建实验exp_20240521_yolov5s_mixed_v2。最终，模型体积4.2MB，延迟41ms，mAP达到0.67，满足所有约束。

在这个案例中，实验管理的作用体现在：版本记录让你能清晰对比v1和v2的差异；指标追踪让你快速定位精度瓶颈在特定层；可复现性确保你可以在另一台机器上重新生成v2的结果。如果没有这套管理机制，你很可能陷入“试了十几种方案，但记不清哪种有效”的混乱中。

1.5 常见误区与总结复盘

在课程导入阶段，有必要指出初学者在压缩实验管理中容易陷入的几个误区，这些误区将在后续章节中反复被提及和纠正。