模型选型核心原则：别急着调参，先选对模型
说实话，我见过太多同学一上来就调学习率、改网络层数，折腾半天效果还是不行。为什么？因为模型选型这一步就没走对。选模型就像挑工具——你要钉钉子，结果拿了把扳手，再使劲也白搭。
这一章，我把选型原则拆成四个维度来讲。你把这四点吃透了，以后面对任何任务都能快速锁定候选模型。
一、任务类型分类：先搞清楚你要解决什么问题
模型选型的第一步，不是翻，而是问自己：我的输出是什么？
| 任务类型 | 输出形式 | 典型场景 | 常用模型 |
|---|---|---|---|
| 分类 | 离散标签（猫/狗、正常/异常） | 图像识别、垃圾邮件检测、疾病诊断 | ResNet、EfficientNet、ViT、BERT |
| 回归 | 连续数值（房价、温度、销量） | 价格预测、传感器校准、风险评估 | MLP、ResNet（改输出层）、LSTM |
| 序列 | 序列到序列（文本、语音、时间序列） | 机器翻译、语音识别、股票预测 | LSTM、Transformer、、T5 |
这里有个坑，我踩过好几次。有些任务表面上是回归，但实际更适合做分类。比如预测用户点击率，你直接回归一个0到1的浮点数，模型很难收敛。改成分类——把点击率离散化成10个区间——效果反而更好。为什么？因为分类的损失函数（交叉熵）比回归的MSE更平滑，梯度更稳定。
二、数据规模与质量：你的数据配得上这个模型吗？
模型选型最容易被忽略的因素，就是数据。我见过有人拿100张图片去训ResNet-152，结果过拟合得一塌糊涂。说白了，模型越大，需要的样本就越多。
这里给一个粗略的经验法则：
- 小数据（<1万样本）：优先考虑轻量模型（MobileNet、小型MLP），或者用预训练模型做迁移学习。别自己从头训。
- 中等数据（1万-10万）：可以用ResNet-50、BERT-base这类中等规模模型。记得加正则化（Dropout、Weight Decay）。
- 大数据（>10万）：放心上大模型（EfficientNet-B7、ViT-Large、系列）。数据量够，模型复杂度就不是问题。
数据质量比数量更重要。脏数据、标签错误、类别不平衡，这些都会让模型选型变得毫无意义。我建议你在选模型之前，先花时间做数据探索——看看有没有异常样本、类别分布是否均匀、特征是否完整。
三、计算资源约束：别选一个跑不动的模型
这个原则听起来很基础，但很多人就是会忽略。你想想看，模型选得再好，如果GPU显存放不下、推理速度达不到要求，那等于白选。
我一般从三个维度评估计算资源：
- 训练时间：你有多少GPU？能跑多久？如果只有一张RTX 3090，就别想着训了。
- 推理延迟：线上服务要求多少毫秒内返回？移动端还是云端？
- 显存占用：模型参数量 + 中间激活值，不能超过GPU显存。
举个例子，同样是图像分类：
| 模型 | 参数量 | 推理延迟（CPU） | 推荐场景 |
|---|---|---|---|
| MobileNetV3 | 5.4M | ~10ms | 移动端、嵌入式 |
| ResNet-50 | 25.6M | ~50ms | 云端、中等资源 |
| EfficientNet-B7 | 66M | ~200ms | 高精度、GPU集群 |
| ViT-Large | 307M | ~500ms | 学术研究、大算力 |
四、模型复杂度与泛化能力权衡
这是选型的核心矛盾。模型越复杂，拟合能力越强，但泛化能力可能越差。说白了，就是欠拟合和过拟合之间的平衡。
我一般用这个思路来判断：
- 训练损失高，验证损失也高 → 欠拟合。模型太简单，需要增加复杂度（加深网络、加注意力机制）。
- 训练损失低，验证损失高 → 过拟合。模型太复杂，需要正则化（Dropout、数据增强、早停）。
- 训练损失和验证损失都低且接近 → 完美。别动了。
这里有一个我自己的经验：如果你不确定选哪个模型，先从简单模型开始。比如做图像分类，先用ResNet-18跑一遍，看看baseline。如果欠拟合，再升级到ResNet-50或EfficientNet。如果过拟合，就加正则化或减少模型容量。这样一步步试，比一开始就上大模型靠谱得多。
知识体系总览
下面这张图把四个核心原则串起来了。你可以把它当作选型时的检查清单。