4、回归任务核心指标：MAE、MSE、RMSE、R²、调整R²的适用场景与局限性
聊完分类指标，咱们来看看回归任务。回归嘛，说白了就是预测连续值——房价、温度、销售额这些。评估回归模型好不好，核心就看「预测值」和「真实值」之间的差距有多大。
我这些年做过的回归项目，从销量预测到传感器校准，几乎每个项目都要跟这几个指标打交道。它们各有脾气，选错了会出大问题。今天我把它们掰开揉碎了讲清楚。
4.1 MAE：最直观的「平均误差」
MAE（Mean Absolute Error），平均绝对误差。公式很简单：
MAE = (1/n) * Σ|yᵢ - ŷᵢ|就是所有样本的预测误差绝对值，取个平均值。单位跟原始数据一样，比如预测房价，MAE 就是「平均差了多少万」。
适用场景：
- 数据里没有明显的异常值（outlier）
- 你希望误差的「量级」能被直观理解
- 业务方问「模型平均差多少？」——MAE 就是答案
局限性：
- 对异常值不敏感。一个样本差 1000，另一个差 1，MAE 会被平均掉
- 数学性质不好，导数不连续，优化时不如 MSE 方便
4.2 MSE：惩罚大误差的「狠角色」
MSE（Mean Squared Error），均方误差：
MSE = (1/n) * Σ(yᵢ - ŷᵢ)²注意，它把误差平方了。这意味着：误差 10 的样本，贡献是 100；误差 1 的样本，贡献只有 1。大误差会被放大。
适用场景：
- 你特别讨厌大误差——比如自动驾驶的刹车距离预测
- 模型训练时做损失函数，MSE 的梯度平滑，容易收敛
- 数据基本服从正态分布
局限性：
- 单位是原始单位的平方，不好解释。你说「MSE 是 25」，别人问「25 什么？」你解释起来很费劲
- 对异常值极度敏感。一个离群点就能把 MSE 拉得老高
4.3 RMSE：MSE 的「可解释版本」
RMSE（Root Mean Squared Error），就是 MSE 开个根号：
RMSE = √MSE = √[(1/n) * Σ(yᵢ - ŷᵢ)²]单位回到原始单位了，这是它最大的好处。
适用场景：
- 既想惩罚大误差，又想保持单位可解释
- 做模型对比时，RMSE 比 MSE 更直观
- 很多竞赛（比如 Kaggle）默认用 RMSE
局限性：
- 跟 MSE 一样，对异常值敏感
- 如果数据里有大量零值或接近零的值，RMSE 会被「稀释」
你想想看，RMSE 和 MAE 的区别是什么？我举个例子：
| 指标 | 误差分布 [1, 1, 1, 100] | 误差分布 [25, 25, 25, 28] |
|---|---|---|
| MAE | 25.75 | 25.75 |
| RMSE | 50.01 | 25.87 |
看到了吗？同样的 MAE，RMSE 能反映出「有没有大误差」。第一个分布里有个 100 的离群点，RMSE 直接飙到 50。第二个分布误差均匀，RMSE 跟 MAE 差不多。
4.4 R²：模型「解释了多少方差」
R²（R-squared），也叫决定系数。公式：
R² = 1 - (SS_res / SS_tot)其中 SS_res 是残差平方和，SS_tot 是总平方和。说白了，就是「模型比瞎猜好多少」。
R² 的取值范围通常是 [0, 1]。0 表示模型跟均值预测一样烂，1 表示完美拟合。但注意，R² 也可能为负——说明模型比瞎猜还差。
适用场景：
- 你想知道模型「解释力」有多强
- 对比不同量纲的模型——R² 是归一化的，跟单位无关
- 线性回归的经典评估指标
局限性：
- 随着特征增多，R² 只会上升不会下降（哪怕加的是噪声特征）
- 不能反映预测偏差的方向（高估还是低估）
- 对非线性模型的解释力有限
4.5 调整 R²：给「加特征」这件事泼冷水
调整 R²（Adjusted R-squared）就是来解决上面那个问题的：
Adjusted R² = 1 - [(1 - R²) * (n - 1) / (n - k - 1)]其中 n 是样本量，k 是特征数量。它引入了惩罚项——特征越多，惩罚越大。
适用场景：
- 做特征选择时，比较不同特征数量的模型
- 你想知道「增加这个特征到底有没有用」
- 线性回归模型的变量筛选
局限性：
- 只适用于线性模型，对树模型、神经网络不适用
- 惩罚项是固定的，不一定符合实际
- 样本量很小时，调整 R² 可能不稳定
我记得有一次做房价预测，同事加了 30 个特征，R² 从 0.72 涨到 0.78，他特别高兴。我让他算一下调整 R²——结果从 0.71 降到了 0.69。这说明那 30 个特征基本是噪声，白费功夫。
4.6 怎么选？一张表说清楚
| 指标 | 核心特点 | 我最常用的场景 | 注意什么 |
|---|---|---|---|
| MAE | 直观，单位一致 | 给业务方汇报 | 对异常值不敏感 |
| MSE | 惩罚大误差 | 模型训练损失函数 | 单位难解释 |
| RMSE | 惩罚大误差+单位一致 | 模型对比、竞赛 | 对异常值敏感 |
| R² | 解释力，归一化 | 线性回归评估 | 会随特征增多虚高 |
| 调整 R² | 惩罚多余特征 | 特征选择 | 只适用于线性模型 |
4.7 我的建议
实际项目中，我从来不会只看一个指标。我的习惯是：
- 训练时：用 MSE 或 RMSE 做损失函数，梯度好算
- 评估时：同时看 MAE 和 RMSE。如果两者差距大，说明有异常值
- 汇报时：用 MAE 和 R²。MAE 说「平均差多少」，R² 说「模型多靠谱」
- 特征选择时：用调整 R² 或交叉验证的 RMSE
嗯，回归指标就这些。说白了，没有哪个指标是万能的。你选什么，取决于你的业务场景、数据特点，还有——你想骗自己还是想看清真相。