4. 代理模型精度评价体系

代理模型训练完成后,真正决定它能否投入优化使用的,不是训练误差有多小,而是它对“没见过的设计点”预测得准不准。响应面代理模型常见的过拟合现象是:在训练样本上 R² 接近 0.99,但换一组新样本预测误差却很大。因此,精度评价必须区分拟合优度与泛化能力两个层面,前者看模型对已知数据的解释程度,后者看模型对未知数据的预测可靠性。

一、决定系数 R² 与调整决定系数 R²adj

决定系数 R² 衡量模型解释的响应变异占总变异的比例,定义为:

R² = 1 - SSE / SST
SSE = Σ(y_i - ŷ_i)²      (残差平方和)
SST = Σ(y_i - ȳ)²        (总平方和)

R² 越接近 1 表示拟合越好,但它有一个致命缺陷:只要往模型里增加基函数项,SSE 一定不增,R² 单调不减。因此用 R² 比较不同项数的响应面会系统性偏向复杂模型。调整决定系数引入自由度惩罚:

R²_adj = 1 - (SSE/(n - p)) / (SST/(n - 1))
n:样本数    p:模型参数个数(含常数项)

当新增项带来的误差下降不足以抵消自由度损失时,R²adj 反而下降,这正是判断是否该停止加项的信号。工程经验上,若 R² 与 R²adj 差距超过 0.05~0.1,说明模型项数相对样本量偏多,过拟合风险明显。

二、均方根误差 RMSE 与相对误差

R² 是无量纲的相对指标,无法直接回答“预测偏差是多少个物理单位”。均方根误差补足这一点:

RMSE = sqrt( SSE / n )
RMSE_cv = sqrt( Σ(y_i - ŷ_(i))² / n )   (交叉验证版)

其中 ŷ(i) 表示剔除第 i 个样本后重建模型对该样本的预测值。RMSE 与响应量同量纲,便于与工程容差比较。例如某结构优化中最大应力响应均值约 320 MPa,若 RMSE 为 8 MPa,则相对误差约 2.5%,通常可接受;若 RMSE 达 30 MPa,则代理模型给出的最优解可能落在真实不可行区。为便于跨响应比较,可同时给出归一化指标 NRMSE = RMSE / (ymax - ymin)。

R²、R²adj、RMSE 都基于同一批训练数据,只能反映拟合质量,不能单独作为泛化能力的证据。判断代理模型是否可用,必须结合交叉验证或外部验证。

三、交叉验证:用有限样本估计泛化误差

K 折交叉验证把 n 个样本均分为 K 份,轮流取其中一份作验证集、其余 K-1 份作训练集,共训练 K 次,汇总所有验证预测得到 CV-RMSE 与 CV-R²。常用 K=5 或 10;样本量很小(如 n<20)时可用留一法(LOO),即 K=n。

交叉验证的关键价值在于:它模拟了“用当前样本量训练出的模型去预测新点”的真实场景。若 CV-RMSE 远大于训练 RMSE,说明模型过拟合;若两者接近且都较小,说明模型复杂度与样本量匹配。对于 Kriging、径向基等插值型代理模型,训练误差几乎为零,此时交叉验证几乎是唯一可用的内部精度指标。

四、外部验证与验证集设计

外部验证指用完全独立于建模过程的新样本检验模型。它与交叉验证的区别在于:验证点不参与任何一次训练,且应覆盖设计空间的不同区域,尤其是优化最可能收敛的边界与中心区域。建议做法是:

  • 建模前预留 15%~25% 样本作为外部验证集,或用拉丁超立方重新采样一批验证点;
  • 验证点应包含设计空间边界、中心、以及响应梯度较大的区域;
  • 对每个验证点计算预测值、真实值(仿真或实验)、绝对误差与相对误差;
  • 绘制预测值—真实值散点图,理想情况点应贴近 45° 对角线;
  • 同时检查残差是否随某个设计变量呈现系统性趋势,若有则说明模型结构或采样存在缺陷。

下面这张图给出从训练数据到精度判定的完整评价链路,并标出各指标的作用位置与判定阈值示例。

代理模型精度评价链路 样本数据 训练集 n_train 验证集 n_val (预留 15%~25%) 边界/中心/梯度大区 响应面拟合 最小二乘 / Kriging RBF / 多项式 得到 ŷ(x) 内部拟合指标 R²、R²_adj 训练 RMSE 仅反映拟合质量 K 折交叉验证 K=5 / 10,小样本 LOO CV-RMSE、CV-R² 估计泛化误差 插值型模型唯一内部依据 外部验证 独立验证点 预测值 vs 真实值 45° 对角线检验 残差趋势检查 精度判定参考(示例阈值,需结合工程容差调整) 可接受 R²_adj ≥ 0.90 CV-RMSE ≤ 5% 响应幅值 需警惕 R² 与 R²_adj 差 > 0.1 CV-RMSE 明显大于训练 RMSE 不可用 外部验证相对误差 > 10% 残差呈系统性趋势 改进方向 加密采样 / 降阶 换核函数 / 加正则

五、指标组合使用与常见误判

单一指标容易误导,实践中建议按以下顺序组合判读:先看 R²adj 是否达到 0.9 以上,再看 CV-RMSE 是否在工程容差内,最后用外部验证确认无系统性偏差。三类典型误判值得注意:

现象可能原因处理建议
训练 R² 高,CV-RMSE 大过拟合,项数过多或样本过少减少基函数项,增加样本,改用正则化
R² 与 R²adj 差距大模型复杂度超出样本支撑能力降阶或补充采样
外部验证残差随某变量单调变化该方向采样不足或模型结构缺失在该方向加密采样或增加交互项

需要强调的是,精度评价不是一次性动作。在优化迭代中,若最优解落在样本稀疏区,应把该区域的新样本加入训练集并重新评估 CV-RMSE 与外部验证误差,形成“评价—补点—再评价”的闭环。只有当代理模型在独立验证点上稳定满足精度要求时,基于它得到的优化结果才具备工程可信度。