3. 评估指标体系总览

药物研发中的多模态模型往往同时承担多种任务:预测化合物是否具有活性(分类)、预测连续理化或药代参数(回归)、对候选分子或靶点进行优先级排序(排序)、生成新分子结构或描述(生成)、从海量文献或数据库中检索相似证据(检索)。不同任务的目标函数与误差结构完全不同,用错指标会直接导致模型选择偏差。本节按任务类型梳理常用指标的定义、计算逻辑与在药物研发场景中的适用边界。

一、分类任务:AUC、PR-AUC、F1 与 MCC

分类任务在药物研发中极为常见,例如“该化合物是否对靶点有活性”“该分子是否具有肝毒性”。最常用的指标是 AUC-ROC(ROC 曲线下面积),它衡量模型在所有阈值下区分正负样本的能力,取值 0.5 表示随机,1.0 表示完美。AUC 的优点是阈值无关、对类别不平衡相对稳健,因此在虚拟筛选早期被广泛使用。

但当正样本极度稀少时(例如百万级化合物库中只有几百个活性分子,正负比可达 1:1000),AUC 会被大量真负样本“稀释”,显得虚高。此时应优先看 PR-AUC(精确率-召回率曲线下面积),它只关注正类,对不平衡更敏感。经验上,当正样本比例低于 5% 时,PR-AUC 比 AUC 更能反映实际筛选价值。此外,F1 是精确率与召回率的调和平均,适合需要平衡误报与漏报的场景;MCC(马修斯相关系数)同时考虑 TP、TN、FP、FN,取值 -1 到 1,在类别不平衡时比 F1 更稳健,是药物毒性预测中值得推荐的补充指标。

适用边界:AUC 适合类别相对均衡的活性分类;PR-AUC 适合极端不平衡的虚拟筛选;F1 适合需要单一阈值决策的场景;MCC 适合不平衡且四格都需要关注的毒性/安全性预测。

二、回归任务:RMSE、MAE、R² 与 Spearman

回归任务预测连续值,如 pIC50、logP、清除率、半衰期。最直观的是 RMSE(均方根误差),它对大误差敏感,单位与目标一致;MAE(平均绝对误差)对异常值更稳健。两者都依赖目标值的量纲,跨数据集比较时需谨慎。

R² 表示模型解释的方差比例,但它在测试集上可能为负,且对非线性关系不敏感。药物研发中更常关注排序一致性,因为决策往往是“哪些分子优先做实验”,而非精确预测数值。此时 Spearman 秩相关系数比 Pearson 更合适,它衡量预测值与真实值的单调关系,对异常值和单调非线性变换不敏感。例如在 ADMET 预测中,若模型对前 100 个分子的排序与真实活性排序 Spearman 达到 0.7,即使 RMSE 略高,也仍具实用价值。

三、排序与检索任务:Top-k、NDCG、Recall@k、MRR

排序任务的目标是把最相关的对象排在前面,常见于靶点优先级排序、化合物库排序、文献证据检索。Top-k 准确率统计前 k 个结果中包含真实正例的比例;Recall@k 关注前 k 个结果覆盖了多少真实相关项;NDCG(归一化折损累计增益)对位置敏感,越靠前的相关结果权重越高,适合多级相关性;MRR(平均倒数排名)关注第一个相关结果出现的位置,适合“找一个最佳答案”的检索场景。

在药物研发中,Top-k 和 Recall@k 最贴近实际:实验资源有限,研究者只关心排名最靠前的少量候选。若 k=50,Recall@50 达到 0.8,意味着 80% 的真实活性分子进入了前 50 名,这比整体 AUC 更有决策意义。NDCG 适合有分级相关性(如强/中/弱活性)的排序;MRR 适合靶点-疾病关联检索。

四、生成任务:FID、BLEU、ROUGE、有效性/唯一性/新颖性

生成任务包括分子生成、反应预测、文本描述生成。FID(Fréchet Inception Distance)原本用于图像生成,衡量生成分布与真实分布的距离,越低越好;在分子生成中可类比使用分子指纹或描述符分布距离。BLEU 和 ROUGE 基于 n-gram 重叠,常用于反应预测或分子描述生成,但 BLEU 对分子结构合法性不敏感,不能单独作为评价依据。

分子生成必须补充有效性(生成分子能否被化学解析)、唯一性(去重后比例)、新颖性(与训练集不重复的比例)以及合成可及性(SA score)。一个 BLEU 很高但有效性只有 60% 的模型,实际不可用。因此生成任务应组合使用分布距离指标与化学约束指标。

五、指标选择与适用边界总览

下图按任务类型梳理了常用指标、核心关注点与药物研发中的典型适用边界,帮助在模型评估时快速定位应优先关注的指标组合。

药物研发多模态模型评估指标总览 按任务类型划分 · 核心指标 · 适用边界 分类任务 活性 / 毒性 / 结合预测 AUC-ROC 阈值无关 · 均衡场景 PR-AUC 正样本稀少 · 虚拟筛选 F1 / MCC 不平衡 · 四格兼顾 适用边界 正负比 < 1:20 用 AUC 正负比 > 1:20 用 PR-AUC 回归任务 pIC50 / logP / 清除率 RMSE / MAE 量纲一致 · 大误差敏感 R² 方差解释 · 可负值 Spearman ρ 排序一致性 · 抗异常 适用边界 精确数值预测用 RMSE 优先级排序用 Spearman 排序任务 靶点 / 化合物优先级 Top-k 准确率 前 k 命中比例 NDCG 位置敏感 · 多级相关 Recall@k / MRR 覆盖度 / 首个命中位置 适用边界 实验资源有限看 Top-k 分级相关性用 NDCG 生成任务 分子 / 反应 / 描述生成 FID / 分布距离 生成分布 vs 真实分布 BLEU / ROUGE n-gram 重叠 · 文本生成 有效性/唯一性/新颖性 化学约束 · 必须组合 适用边界 BLEU 高≠分子可用 必须叠加化学约束指标 检索任务 文献 / 相似分子检索 Recall@k 前 k 覆盖真实相关 MRR 首个相关结果位置 NDCG 多级相关性排序 适用边界 找最佳答案用 MRR 覆盖度用 Recall@k 核心原则:指标必须与决策目标对齐 分类看正样本稀缺度 → 回归看是否需要排序 → 排序看实验预算 → 生成看化学合法性 → 检索看覆盖与位置 单一指标不足以评估药物研发模型,建议每个任务至少组合 2–3 个互补指标

六、组合使用与常见误区

实际评估中,单一指标往往产生误导。例如一个分子生成模型 BLEU 达到 0.85,但有效性仅 55%,说明它只是“模仿”了训练集的文本模式,并未学会化学语法。又如一个活性分类模型 AUC 为 0.92,但 PR-AUC 仅 0.31,说明在正样本稀少时它并没有真正把活性分子排到前面。因此建议每个任务至少组合 2–3 个互补指标:分类用 AUC + PR-AUC + MCC;回归用 RMSE + Spearman;排序用 Recall@k + NDCG;生成用 FID + 有效性 + 新颖性;检索用 Recall@k + MRR。

另一个常见误区是跨任务直接比较指标数值。AUC 0.9 与 Spearman 0.9 含义完全不同,不能因为数值相同就认为模型表现相当。评估报告应明确标注任务类型、数据集正负比、目标值分布和阈值设定,否则指标本身无法被正确解读。

注意:所有指标都依赖测试集的代表性。若测试集与真实应用场景分布差异大(如测试集来自同一实验室、同一化学系列),指标会系统性偏高。建议在评估时同时报告随机划分与骨架划分(scaffold split)下的结果,后者更接近真实虚拟筛选场景。

七、面向药物研发的指标选择速查

任务类型 首选指标 补充指标 典型药物研发场景
分类 PR-AUC(不平衡时) AUC、MCC 虚拟筛选、毒性预测
回归 RMSE Spearman、MAE pIC50、logP、清除率预测
排序 Recall@k NDCG、Top-k 准确率 靶点优先级、化合物库排序
生成 有效性 + 新颖性 FID、BLEU、SA score 分子生成、反应预测
检索 Recall@k MRR、NDCG 文献证据检索、相似分子搜索

最后需要强调:指标是评估的“仪表盘”,不是目标本身。药物研发的最终目标是找到可合成、有活性、安全性可接受的候选分子。因此任何指标组合都应保留一个“化学与生物学合理性”的人工复核环节,避免模型在指标上表现优异却在实验验证中失败。