4. 回归模型验证指标
在ADMET建模中,回归任务(如预测pIC50、logP、清除率、血浆蛋白结合率等连续值)的验证不能只看一个数字。R²高不代表预测误差小,RMSE小也不代表排序能力好,而Spearman相关强更不意味着预测值与实测值在数值上一致。本节围绕五个核心指标展开:R²、RMSE、MAE、Spearman相关系数、一致性相关系数(CCC),并说明如何为它们估计置信区间,从而判断模型性能是否稳定、是否具有实际适用价值。
一、五个指标各自回答什么问题
设测试集有 n 个化合物,第 i 个化合物的实验值为 yi,模型预测值为 ŷi,均值分别为 ȳ 和 ŷ̄。
- R²(决定系数):衡量模型解释了多少实验值方差。R² = 1 − SSres/SStot,其中 SSres=Σ(yi−ŷi)²,SStot=Σ(yi−ȳ)²。R²越接近1,说明模型对数据趋势的拟合越好。但R²对异常值敏感,且会随测试集数据范围变化而虚高。
- RMSE(均方根误差):RMSE = √(Σ(yi−ŷi)²/n)。它与原始值同量纲,对大误差惩罚更重,适合关注“最坏情况”的ADMET场景,如毒性预测中不能容忍大偏差。
- MAE(平均绝对误差):MAE = Σ|yi−ŷi|/n。它直接反映平均偏差幅度,对异常值不如RMSE敏感,适合报告“典型误差有多大”。
- Spearman相关系数 ρ:对 yi 与 ŷi 的秩次计算Pearson相关。它只关心排序是否一致,不关心数值是否接近。在虚拟筛选中,只要模型能把高活性化合物排在前面,ρ 就比R²更有意义。
- 一致性相关系数 CCC:CCC = 2·cov(y,ŷ) / [var(y)+var(ŷ)+(ȳ−ŷ̄)²]。它同时惩罚“相关性差”和“系统偏差”,是评价预测值与实测值是否真正一致的最严格指标。CCC接近1,说明预测不仅相关,而且数值上可替代实测。
二、指标之间的互补关系
这五个指标并非互相替代,而是从不同角度刻画模型。R²和Spearman都反映“趋势”,但R²对线性关系敏感,Spearman对单调关系敏感;RMSE和MAE反映“误差大小”,但RMSE放大大误差,MAE更稳健;CCC则同时包含精度和准确度。一个常见陷阱是:模型R²=0.85、Spearman=0.88,看起来很好,但CCC只有0.55,说明预测值整体偏高或偏低,存在系统偏差,直接用于定量决策会出问题。
三、置信区间:判断指标是否“靠得住”
测试集通常只有几十到几百个化合物,单次计算得到的RMSE或R²存在抽样波动。只报告点估计,无法判断模型在新数据上是否稳定。置信区间(CI)给出指标的不确定性范围,是模型验证报告的必要组成部分。
对于回归指标,最通用的CI估计方法是Bootstrap重采样。具体做法:对测试集的 (yi, ŷi) 对进行有放回抽样,生成B个(通常B=1000或2000)大小相同的Bootstrap样本;对每个样本重新计算目标指标,得到B个指标值;取这些值的2.5%和97.5%分位数,即得到95%置信区间。该方法不依赖正态假设,适用于R²、RMSE、MAE、Spearman ρ和CCC。
若测试集样本量较大(n>100)且指标近似正态分布,也可用解析法:RMSE的方差近似为 Var(RMSE) ≈ RMSE²/(2n),据此构造CI;R²的CI可通过Fisher z变换近似。但Bootstrap更稳健,推荐优先使用。
四、教学示例:五个指标的计算与解读
假设某ADMET回归模型在测试集(n=50)上的预测结果如下(示例数据,非实测):
| 指标 | 点估计 | 95% CI(Bootstrap) | 解读 |
|---|---|---|---|
| R² | 0.78 | [0.71, 0.84] | 解释约78%方差,趋势拟合较好 |
| RMSE | 0.62 | [0.54, 0.71] | 典型误差约0.62 log单位 |
| MAE | 0.45 | [0.39, 0.52] | 平均绝对偏差0.45,较稳健 |
| Spearman ρ | 0.82 | [0.76, 0.87] | 排序一致性良好,适合筛选 |
| CCC | 0.68 | [0.59, 0.76] | 一致性中等,存在系统偏差 |
从表中可见,R²和Spearman ρ表现较好,但CCC仅为0.68,且CI下限0.59,说明预测值与实测值之间存在不可忽略的系统偏差。进一步检查发现,模型在高活性区间(pIC50>7)普遍低估约0.5 log单位。此时应优先校正系统偏差(如对预测值做线性校准),而不是继续调参追求R²。
五、指标选择与报告规范
不同ADMET终点对指标侧重点不同:
- 定量预测(如清除率、logD):优先报告RMSE、MAE和CCC,关注数值误差和一致性。
- 排序筛选(如虚拟筛选、优先级排序):优先报告Spearman ρ和R²,关注趋势和排序能力。
- 安全性预测(如hERG毒性):RMSE和CCC并重,因为大误差可能导致错误决策。
报告时需同时给出测试集大小n、指标点估计和95% CI。若CI过宽(如RMSE的CI宽度超过点估计的30%),说明测试集太小或数据异质性高,模型泛化能力存疑,应扩大验证集或采用交叉验证。
综上,R²、RMSE、MAE、Spearman ρ和CCC构成回归模型验证的完整指标体系。R²和Spearman ρ回答“趋势对不对”,RMSE和MAE回答“误差大不大”,CCC回答“数值能不能替代实测”。置信区间则回答“这些结论稳不稳”。在ADMET模型验证中,五者缺一不可,且必须附带不确定性估计,才能支撑后续的适用域评估和决策应用。