4. 回归模型验证指标

在ADMET建模中,回归任务(如预测pIC50、logP、清除率、血浆蛋白结合率等连续值)的验证不能只看一个数字。R²高不代表预测误差小,RMSE小也不代表排序能力好,而Spearman相关强更不意味着预测值与实测值在数值上一致。本节围绕五个核心指标展开:R²、RMSE、MAE、Spearman相关系数、一致性相关系数(CCC),并说明如何为它们估计置信区间,从而判断模型性能是否稳定、是否具有实际适用价值。

一、五个指标各自回答什么问题

设测试集有 n 个化合物,第 i 个化合物的实验值为 yi,模型预测值为 ŷi,均值分别为 ȳ 和 ŷ̄。

  • R²(决定系数):衡量模型解释了多少实验值方差。R² = 1 − SSres/SStot,其中 SSres=Σ(yi−ŷi)²,SStot=Σ(yi−ȳ)²。R²越接近1,说明模型对数据趋势的拟合越好。但R²对异常值敏感,且会随测试集数据范围变化而虚高。
  • RMSE(均方根误差):RMSE = √(Σ(yi−ŷi)²/n)。它与原始值同量纲,对大误差惩罚更重,适合关注“最坏情况”的ADMET场景,如毒性预测中不能容忍大偏差。
  • MAE(平均绝对误差):MAE = Σ|yi−ŷi|/n。它直接反映平均偏差幅度,对异常值不如RMSE敏感,适合报告“典型误差有多大”。
  • Spearman相关系数 ρ:对 yi 与 ŷi 的秩次计算Pearson相关。它只关心排序是否一致,不关心数值是否接近。在虚拟筛选中,只要模型能把高活性化合物排在前面,ρ 就比R²更有意义。
  • 一致性相关系数 CCC:CCC = 2·cov(y,ŷ) / [var(y)+var(ŷ)+(ȳ−ŷ̄)²]。它同时惩罚“相关性差”和“系统偏差”,是评价预测值与实测值是否真正一致的最严格指标。CCC接近1,说明预测不仅相关,而且数值上可替代实测。

二、指标之间的互补关系

这五个指标并非互相替代,而是从不同角度刻画模型。R²和Spearman都反映“趋势”,但R²对线性关系敏感,Spearman对单调关系敏感;RMSE和MAE反映“误差大小”,但RMSE放大大误差,MAE更稳健;CCC则同时包含精度和准确度。一个常见陷阱是:模型R²=0.85、Spearman=0.88,看起来很好,但CCC只有0.55,说明预测值整体偏高或偏低,存在系统偏差,直接用于定量决策会出问题。

回归验证五指标:从“趋势”到“一致性”的递进关系 实验值 vs 预测值 实测 预测 散点整体偏离对角线 → CCC低 指标关注点 R²:解释方差比例(趋势) RMSE:大误差惩罚(精度) MAE:平均偏差幅度(稳健) Spearman ρ:排序一致性 CCC:数值一致性(最严格) Bootstrap 置信区间估计流程(以RMSE为例) 测试集 (y, ŷ) n个 有放回重采样 B=1000次 每次计算 RMSEb 取2.5%和97.5% 分位数 95% CI 示例结果:RMSE = 0.62,95% CI [0.54, 0.71];MAE = 0.45,95% CI [0.39, 0.52]; R² = 0.78,95% CI [0.71, 0.84];Spearman ρ = 0.82,95% CI [0.76, 0.87];CCC = 0.68,95% CI [0.59, 0.76]

三、置信区间:判断指标是否“靠得住”

测试集通常只有几十到几百个化合物,单次计算得到的RMSE或R²存在抽样波动。只报告点估计,无法判断模型在新数据上是否稳定。置信区间(CI)给出指标的不确定性范围,是模型验证报告的必要组成部分。

对于回归指标,最通用的CI估计方法是Bootstrap重采样。具体做法:对测试集的 (yi, ŷi) 对进行有放回抽样,生成B个(通常B=1000或2000)大小相同的Bootstrap样本;对每个样本重新计算目标指标,得到B个指标值;取这些值的2.5%和97.5%分位数,即得到95%置信区间。该方法不依赖正态假设,适用于R²、RMSE、MAE、Spearman ρ和CCC。

若测试集样本量较大(n>100)且指标近似正态分布,也可用解析法:RMSE的方差近似为 Var(RMSE) ≈ RMSE²/(2n),据此构造CI;R²的CI可通过Fisher z变换近似。但Bootstrap更稳健,推荐优先使用。

实操建议:在ADMET模型报告中,至少报告RMSE、MAE、R²、Spearman ρ和CCC的点估计与95% CI。若CCC的CI下限低于0.5,说明模型一致性不足,不宜直接用于定量预测;若Spearman ρ的CI下限高于0.7,则排序能力较可靠,可用于虚拟筛选优先级排序。

四、教学示例:五个指标的计算与解读

假设某ADMET回归模型在测试集(n=50)上的预测结果如下(示例数据,非实测):

指标点估计95% CI(Bootstrap)解读
R²0.78[0.71, 0.84]解释约78%方差,趋势拟合较好
RMSE0.62[0.54, 0.71]典型误差约0.62 log单位
MAE0.45[0.39, 0.52]平均绝对偏差0.45,较稳健
Spearman ρ0.82[0.76, 0.87]排序一致性良好,适合筛选
CCC0.68[0.59, 0.76]一致性中等,存在系统偏差

从表中可见,R²和Spearman ρ表现较好,但CCC仅为0.68,且CI下限0.59,说明预测值与实测值之间存在不可忽略的系统偏差。进一步检查发现,模型在高活性区间(pIC50>7)普遍低估约0.5 log单位。此时应优先校正系统偏差(如对预测值做线性校准),而不是继续调参追求R²。

五、指标选择与报告规范

不同ADMET终点对指标侧重点不同:

  • 定量预测(如清除率、logD):优先报告RMSE、MAE和CCC,关注数值误差和一致性。
  • 排序筛选(如虚拟筛选、优先级排序):优先报告Spearman ρ和R²,关注趋势和排序能力。
  • 安全性预测(如hERG毒性):RMSE和CCC并重,因为大误差可能导致错误决策。

报告时需同时给出测试集大小n、指标点估计和95% CI。若CI过宽(如RMSE的CI宽度超过点估计的30%),说明测试集太小或数据异质性高,模型泛化能力存疑,应扩大验证集或采用交叉验证。

常见误区:仅报告R²=0.9就宣称模型优秀。R²高可能来自测试集数据范围窄或异常值驱动,必须结合RMSE、MAE和CCC综合判断。此外,Spearman ρ高不代表预测值可直接用于定量比较,CCC才是数值一致性的最终裁判。

综上,R²、RMSE、MAE、Spearman ρ和CCC构成回归模型验证的完整指标体系。R²和Spearman ρ回答“趋势对不对”,RMSE和MAE回答“误差大不大”,CCC回答“数值能不能替代实测”。置信区间则回答“这些结论稳不稳”。在ADMET模型验证中,五者缺一不可,且必须附带不确定性估计,才能支撑后续的适用域评估和决策应用。