图像分类与经典网络：ResNet、MobileNet、EfficientNet、训练技巧
本章聚焦图像分类领域最经典的深度网络架构及实用训练技巧。面试中常围绕残差连接、轻量设计、复合缩放三大创新，以及数据增强、正则化、学习率调度等实践细节展开。下方 SVG 给出了经典网络对比类问题的标准回答框架，帮助你在面试中快速搭建逻辑链。
💡 核心口诀：背景→创新→局限→场景→变体。任何经典网络对比问题，按此框架回答即显逻辑清晰。
问答卡片 ① ResNet 残差连接原理
| 面试问题 | 请解释 ResNet 的核心思想及其如何解决梯度消失问题。 |
| 面试官考察点 | ① 是否理解残差连接的数学前向传播 y = F(x) + x；② 是否清楚梯度反向传播时恒等支路的作用；③ 是否了解退化问题而非过拟合。 |
| 回答框架 | 1. 背景：深层网络出现训练集误差升高（退化问题）。
2. 方法：引入 shortcut 恒等映射，让网络学习残差 F(x) = H(x) - x。
3. 原理：反向传播时梯度可经恒等支路直接回传，避免连乘导致消失。
4. 效果：152 层 ResNet 以更低复杂度超越 VGG，开启极深网络时代。 |
| 简短示例回答 | ResNet 通过跨层恒等映射直接加上原输入，让梯度在反向传播时拥有一条约“高速公路”，有效缓解梯度消失。实验显示 152 层 ResNet 在 ImageNet 上 top-5 错误率仅 3.57%，显著优于 VGG。 |
| 可能追问 | ① ResNet v2 与 v1 的区别？② 为什么 BN 不能完全替代残差？③ 残差块中卷积层顺序如何影响梯度？ |
| 避坑提醒 | ❌ 避免说“残差连接是为了增加深度”，正确表述是“解决深层网络的退化问题”。❌ 不要把残差思想等同于 DenseNet 的密集连接。 |
问答卡片 ② MobileNet vs EfficientNet 轻量设计
| 面试问题 | 对比 MobileNet 和 EfficientNet 的设计理念，各自适用于什么场景？ |
| 面试官考察点 | ① 是否掌握深度可分离卷积与标准卷积的参数量对比；② 是否理解 EfficientNet 复合缩放三要素；③ 是否具备模型选型的工程思维。 |
| 回答框架 | 1. MobileNet 核心：深度可分离卷积（DW+PW），参数量降至标准卷积的 1/N（N 为输出通道数）。
2. MobileNet v2 改进：倒残差 + 线性瓶颈。
3. EfficientNet 核心：NAS 搜索最优复合缩放系数（depth/width/resolution），使模型参数利用率最大化。
4. 场景：MobileNet 适合低延迟移动端；EfficientNet 适合追求精度-算力平衡的云端部署。 |
| 简短示例回答 | MobileNet 用深度可分离卷积将计算量降低 8-9 倍，v2 引入倒残差适合移动端推理。EfficientNet 通过复合缩放统一调整深度/宽度/分辨率，B0 仅 5.3M 参数即可达到 ResNet-50 的准确率。 |
| 可能追问 | ① MobileNet v3 的 NetAdapt 策略？② EfficientNet 在目标检测中的适配（EfficientDet）？③ 如何权衡 FLOPs 和实际推理速度？ |
| 避坑提醒 | ❌ 不要将深度可分离卷积与分组卷积混淆（两者计算方式不同）。❌ 回答 EfficientNet 时不要只说“用了 NAS”，需具体说明复合缩放公式。 |
问答卡片 ③ 训练分类网络的技巧
| 面试问题 | 训练图像分类网络时，你常用的提升泛化能力的技巧有哪些？ |
| 面试官考察点 | ① 是否具备实际调参经验（非只背理论）；② 是否熟悉最新数据增强方法如 CutMix；③ 能否解释每种技巧的数学或直觉原因。 |
| 回答框架 | 1. 数据增强：随机裁剪/翻转 → CutOut → MixUp → CutMix（标签混合）。
2. 正则化：Label Smoothing（缓解过自信）、Dropout（最后一层/特征图）、权值衰减。
3. 学习率调度：Warmup + Cosine Annealing，或使用 OneCycle LR。
4. BN 技巧：训练和推理时统计量处理，SyncBN 在多卡场景。 |
| 简短示例回答 | 我常用组合策略：CutMix 数据增强 + Label Smoothing 0.1 + Cosine LR 从 0 线性 warmup 5 epochs。在 CIFAR-100 上将 ResNet-50 的 top-1 准确率从 78.2% 提升至 80.5%。 |
| 可能追问 | ① 如何调整 Label Smoothing 的平滑系数？② 为什么 SGD 比 Adam 在分类任务中更常见？③ 梯度裁剪与学习率 warmup 的关系？ |
| 避坑提醒 | ❌ 不要只说“用 Adam 就好了”，面试官期待你知道 SGD+动量是分类训练的标配。❌ 回答 MixUp 时，说明它和 CutMix 的标签混合策略差异。 |
📌 复习提示：本章三个卡片分别对应“原理理解”、“模型对比”、“训练实践”，是图像分类面试的三大支柱。建议结合经典（ResNet、MobileNet v2/v3、EfficientNet）的图例加深记忆。