4. 代理模型精度评价体系
代理模型训练完成后,真正决定它能否投入优化使用的,不是训练误差有多小,而是它对“没见过的设计点”预测得准不准。响应面代理模型常见的过拟合现象是:在训练样本上 R² 接近 0.99,但换一组新样本预测误差却很大。因此,精度评价必须区分拟合优度与泛化能力两个层面,前者看模型对已知数据的解释程度,后者看模型对未知数据的预测可靠性。
一、决定系数 R² 与调整决定系数 R²adj
决定系数 R² 衡量模型解释的响应变异占总变异的比例,定义为:
R² = 1 - SSE / SST
SSE = Σ(y_i - ŷ_i)² (残差平方和)
SST = Σ(y_i - ȳ)² (总平方和)
R² 越接近 1 表示拟合越好,但它有一个致命缺陷:只要往模型里增加基函数项,SSE 一定不增,R² 单调不减。因此用 R² 比较不同项数的响应面会系统性偏向复杂模型。调整决定系数引入自由度惩罚:
R²_adj = 1 - (SSE/(n - p)) / (SST/(n - 1))
n:样本数 p:模型参数个数(含常数项)
当新增项带来的误差下降不足以抵消自由度损失时,R²adj 反而下降,这正是判断是否该停止加项的信号。工程经验上,若 R² 与 R²adj 差距超过 0.05~0.1,说明模型项数相对样本量偏多,过拟合风险明显。
二、均方根误差 RMSE 与相对误差
R² 是无量纲的相对指标,无法直接回答“预测偏差是多少个物理单位”。均方根误差补足这一点:
RMSE = sqrt( SSE / n )
RMSE_cv = sqrt( Σ(y_i - ŷ_(i))² / n ) (交叉验证版)
其中 ŷ(i) 表示剔除第 i 个样本后重建模型对该样本的预测值。RMSE 与响应量同量纲,便于与工程容差比较。例如某结构优化中最大应力响应均值约 320 MPa,若 RMSE 为 8 MPa,则相对误差约 2.5%,通常可接受;若 RMSE 达 30 MPa,则代理模型给出的最优解可能落在真实不可行区。为便于跨响应比较,可同时给出归一化指标 NRMSE = RMSE / (ymax - ymin)。
三、交叉验证:用有限样本估计泛化误差
K 折交叉验证把 n 个样本均分为 K 份,轮流取其中一份作验证集、其余 K-1 份作训练集,共训练 K 次,汇总所有验证预测得到 CV-RMSE 与 CV-R²。常用 K=5 或 10;样本量很小(如 n<20)时可用留一法(LOO),即 K=n。
交叉验证的关键价值在于:它模拟了“用当前样本量训练出的模型去预测新点”的真实场景。若 CV-RMSE 远大于训练 RMSE,说明模型过拟合;若两者接近且都较小,说明模型复杂度与样本量匹配。对于 Kriging、径向基等插值型代理模型,训练误差几乎为零,此时交叉验证几乎是唯一可用的内部精度指标。
四、外部验证与验证集设计
外部验证指用完全独立于建模过程的新样本检验模型。它与交叉验证的区别在于:验证点不参与任何一次训练,且应覆盖设计空间的不同区域,尤其是优化最可能收敛的边界与中心区域。建议做法是:
- 建模前预留 15%~25% 样本作为外部验证集,或用拉丁超立方重新采样一批验证点;
- 验证点应包含设计空间边界、中心、以及响应梯度较大的区域;
- 对每个验证点计算预测值、真实值(仿真或实验)、绝对误差与相对误差;
- 绘制预测值—真实值散点图,理想情况点应贴近 45° 对角线;
- 同时检查残差是否随某个设计变量呈现系统性趋势,若有则说明模型结构或采样存在缺陷。
下面这张图给出从训练数据到精度判定的完整评价链路,并标出各指标的作用位置与判定阈值示例。
五、指标组合使用与常见误判
单一指标容易误导,实践中建议按以下顺序组合判读:先看 R²adj 是否达到 0.9 以上,再看 CV-RMSE 是否在工程容差内,最后用外部验证确认无系统性偏差。三类典型误判值得注意:
| 现象 | 可能原因 | 处理建议 |
|---|---|---|
| 训练 R² 高,CV-RMSE 大 | 过拟合,项数过多或样本过少 | 减少基函数项,增加样本,改用正则化 |
| R² 与 R²adj 差距大 | 模型复杂度超出样本支撑能力 | 降阶或补充采样 |
| 外部验证残差随某变量单调变化 | 该方向采样不足或模型结构缺失 | 在该方向加密采样或增加交互项 |
需要强调的是,精度评价不是一次性动作。在优化迭代中,若最优解落在样本稀疏区,应把该区域的新样本加入训练集并重新评估 CV-RMSE 与外部验证误差,形成“评价—补点—再评价”的闭环。只有当代理模型在独立验证点上稳定满足精度要求时,基于它得到的优化结果才具备工程可信度。