4. 回归问题评价指标：MSE、RMSE、MAE、R²
回归问题，说白了就是预测连续值。比如预测房价、温度、销售额。你建好模型后，怎么知道它好不好？
这就得靠评价指标了。我这些年做项目，见过不少同学模型调得飞起，一上线就崩——原因往往是选错了评价指标。今天咱们就把回归问题最常用的四个指标掰开揉碎讲清楚。
4.1 均方误差（MSE）
MSE 是最基础的回归指标。公式很简单：
MSE = (1/n) * Σ(y_i - ŷ_i)²其中 y_i 是真实值，ŷ_i 是预测值，n 是样本数。
说白了，就是每个样本的误差平方，然后取平均。
核心特点：
- 对大误差惩罚很重（平方放大）
- 单位是原始单位的平方（不好解释）
- 数学性质好，可导，适合做损失函数
我在项目中遇到过一件事。有个同事用 MSE 做损失函数训练房价模型，训练集上 MSE 降得很快，但上线后个别极端房价预测偏差巨大。为什么？因为 MSE 太在意那些离群点了，模型拼命去拟合它们，反而忽略了大多数正常样本。
避坑指南：如果你的数据有较多异常值，MSE 做损失函数要小心。我曾经因为没做异常值清洗，模型被几个离群点带偏了整整两个百分点。
4.2 均方根误差（RMSE）
RMSE 就是 MSE 开个根号：
RMSE = sqrt(MSE) = sqrt((1/n) * Σ(y_i - ŷ_i)²)为什么要有 RMSE？因为 MSE 的单位是平方，不好理解。比如房价单位是万元，MSE 的单位就是「万元的平方」，这谁看得懂？
RMSE 把单位拉回原始单位，直观多了。你想想看，RMSE = 5 万元，意思就是平均预测偏差大概 5 万块。
| 指标 | 单位 | 对异常值敏感度 | 可解释性 |
|---|---|---|---|
| MSE | 原始单位的平方 | 高 | 低 |
| RMSE | 原始单位 | 高 | 中 |
| MAE | 原始单位 | 低 | 高 |
我个人习惯在向业务方汇报时用 RMSE。你跟老板说「MSE 是 25 万²」，他肯定懵。你说「RMSE 是 5 万」，他马上就知道模型大概差多少。
4.3 平均绝对误差（MAE）
MAE 更直接：
MAE = (1/n) * Σ|y_i - ŷ_i|就是误差的绝对值取平均。没有平方，没有根号，简单粗暴。
使用建议：当你的数据包含较多异常值，或者你更关心「典型误差」而非「极端误差」时，MAE 比 RMSE 更合适。我一般先用 MAE 评估模型基线，再用 RMSE 检查是否有大偏差样本。
嗯，这里要注意。MAE 的梯度是常数，不像 MSE 那样梯度随误差增大而增大。这意味着用 MAE 做损失函数时，模型对所有样本「一视同仁」，不会特别照顾离群点。
我曾经做一个工业传感器预测项目，数据里偶尔会有传感器故障导致的异常值。如果用 MSE，模型会被这些故障数据带偏。换成 MAE 后，模型鲁棒性明显提升。
4.4 R² 决定系数
R² 和其他三个指标不太一样。它不是看误差绝对值，而是看模型「解释了多少方差」。
R² = 1 - (SS_res / SS_tot)
SS_res = Σ(y_i - ŷ_i)² # 残差平方和
SS_tot = Σ(y_i - ȳ)² # 总平方和R² 的取值范围通常是 [0, 1]。越接近 1，说明模型拟合越好。R² = 0.8 意味着模型解释了 80% 的方差。
R² 的直观理解：
- R² = 1：完美拟合，所有预测值等于真实值
- R² = 0：模型不比直接用平均值预测好
- R² < 0：模型比直接用平均值预测还差（可能过拟合或模型错误）
你想想看，R² 其实是在跟「最笨的模型」做对比。最笨的模型就是不管输入什么，都预测平均值。R² 衡量你的模型比这个笨模型好多少。
避坑指南：R² 会随着特征数量增加而增加，哪怕加入的是无用特征。所以用 R² 比较不同特征数量的模型时，要用调整后的 R²（Adjusted R²）。我曾经吃过这个亏，加了 10 个噪声特征，R² 涨了 0.05，我还以为模型优化了，其实是假象。
4.5 四个指标对比总结
| 指标 | 计算公式 | 单位 | 异常值敏感度 | 适用场景 |
|---|---|---|---|---|
| MSE | 平均(误差²) | 原始单位² | 高 | 损失函数、数学推导 |
| RMSE | √平均(误差²) | 原始单位 | 高 | 业务汇报、模型对比 |
| MAE | 平均|误差| | 原始单位 | 低 | 异常值多的场景 |
| R² | 1 - SS_res/SS_tot | 无量纲 | 中 | 模型解释力评估 |
4.6 知识体系结构图
下面这张图帮你理清四个指标的关系和选择逻辑：
4.7 实战选择建议
说了这么多，到底怎么选？我总结几条实战经验：
- 做损失函数：首选 MSE，数学性质好，梯度计算方便。如果异常值多，考虑 Huber Loss（MSE 和 MAE 的混合）。
- 做模型评估：RMSE + MAE 一起看。RMSE 和 MAE 差距大，说明存在较大误差的样本。
- 做业务汇报：RMSE 和 R² 搭配。RMSE 给业务方看绝对值，R² 给技术领导看解释力。
- 做模型对比：用 R² 或调整后的 R²，消除量纲影响。
小技巧：我习惯在训练过程中同时记录 MSE 和 MAE。如果 MSE 下降但 MAE 不动，说明模型在拼命拟合离群点——这时候就该检查数据了。
记住，没有最好的指标，只有最合适的指标。选对指标，你的模型评估就成功了一半。