超参数搜索概述
在正式开始之前，我先问个问题：你写过一个药物KG模型的训练脚本，然后直接跑默认参数就结束了吗？我以前也这么干。直到有一次，模型收敛得特别慢，loss曲线像心电图一样上下乱跳。那时候我才意识到——超参数不是玄学，它是你模型性能的最后一公里。
说白了，超参数搜索就是给模型的那些“拧不动”的旋钮找到最优档位。在药物知识图谱场景里，这个动作尤其重要。你想想看，一个药物KG可能有几十万种实体、上亿条关系，模型训练的每一步都在跟数据和计算资源较劲。参数选得好，模型能抓到药物靶点之间的微妙关联；选得不好，训练三天结果还不如随机乱猜。
什么是超参数搜索？
超参数，就是那些在训练开始之前你就得定好的配置值。比如学习率、批次大小、嵌入维度、图卷积层数。它们不是模型在训练中自动学出来的，而是需要你手动或者自动地去“试”。
我个人的理解更直白：超参数搜索就是在参数空间里跑“实验设计”。只不过每次实验都要重新训练一个模型，成本挺高的。在药物KG这种大图场景下，跑一次实验可能要好几个小时。所以搜索策略本身也得讲究效率。
小提示：不要一上来就用网格搜索。我在项目中吃过这个亏——16个超参数组合，每个组合跑5个epoch，算下来要80个epoch。结果发现最优参数就在一个角落里，前60次全白跑了。
为什么超参数搜索对药物KG模型如此重要？
药物KG模型通常基于图神经网络（GNN）或知识图谱嵌入（KGE），这类模型对超参数极度敏感。举个例子：
- 嵌入维度太小：模型容量不够，记不住药物-靶点之间的复杂交互模式。
- 嵌入维度太大：过拟合，训练集上AUC 0.99，验证集上直接崩到0.5。
- 学习率太高：loss震荡，甚至数值爆炸。
- 学习率太低：训练慢到让你怀疑人生。
更重要的是，在药物KG任务里，数据往往有很强的长尾特性——大部分实体只出现几次，少量实体出现上万次。这时候超参数如果不对，模型会完全忽略那些“稀有但关键”的药物实体。
| 超参数 | 对模型的影响 | 典型取值范围 |
|---|---|---|
| 嵌入维度 | 模型容量、过拟合风险 | 64, 128, 256, 512 |
| 学习率 | 收敛速度、稳定性 | 1e-4, 5e-4, 1e-3, 5e-3 |
| GNN层数 | 消息传播范围、过平滑 | 2, 3, 4 |
| 批次大小 | 训练速度、梯度噪声 | 128, 256, 512, 1024 |
| 负采样比例 | 正负样本平衡 | 1:1, 1:5, 1:10 |
上面这个表，是我从几个真实项目中整理出来的经验值。你可以拿它当起点，但千万别死磕——每个数据集的最佳值都不一样。
药物KG场景下的特殊挑战
我说几个在普通图模型里不太会遇到、但在药物KG里特别头疼的问题：
- 数据稀疏性：一个药物可能只跟少数几种蛋白有已知交互。模型需要从稀疏信号里学到规律。超参数不当的话，模型很容易学到一种“什么关系都预测不存在”的偏置。
- 多关系异构性：药物KG里有几十种甚至上百种关系类型（激活、抑制、代谢、结合……）。每种关系的语义不同，同一组超参数可能对这种关系有效，对另一种关系失效。我曾遇到过——同一个模型，药物-靶点关系的MRR（Mean Reciprocal Rank）能到0.6，但药物-疾病关系的MRR只有0.1。这就是超参数没有针对关系类型做适配。
- 计算成本爆炸：药物KG动不动就几百万个三元组。跑一次网格搜索，一个参数组合训5个epoch，GPU电费都能烧掉几十块。更别提还要做交叉验证。
- 评价指标多且矛盾：你可能同时关注MRR、Hits@1、Hits@10、AUC-ROC。某个超参数组合可能在Hits@10上表现最好，但在Hits@1上却很糟。怎么权衡？这本身就是一个工程问题。
警告：我曾经在一次药物重定位项目中，因为只盯着AUC调参，忽略了Hits@1。最后模型在top-1推荐里总是推荐同一个药物，导致业务方直接说“你不如直接用随机推荐”。从那以后我每次调参都会至少看三个指标。
超参数搜索的一般流程
不管用什么策略（网格、随机、贝叶斯），底层逻辑都差不多。我画了个图帮你快速理解整体结构：
这个流程看着简单，但每一步都有不少坑。比如“定义搜索空间”——你定得太小，可能漏掉最优；定得太大，搜索成本又太高。我个人的习惯是先用粗粒度随机搜索找到大致区域，再用贝叶斯优化精调。
一个简单的搜索配置示例
下面是一个药物KG嵌入模型（比如RotatE或ComplEx）的搜索配置，用YAML写的。你可以直接拿去做超参搜索的起点：
search:
method: random # 可选：random, grid, bayesian
max_trials: 50
early_stop:
patience: 10 # 连续10次没有改善就停止
min_delta: 0.001
params:
embedding_dim:
values: [64, 128, 256, 512]
learning_rate:
distribution: loguniform
min: 0.0001
max: 0.01
batch_size:
values: [128, 256, 512]
gamma: # 负采样margin
values: [0.5, 1.0, 2.0, 5.0]
optimizer:
values: [Adam, Adagrad]
这里我用了loguniform分布来采样学习率，而不是网格取几个固定值。为什么？因为学习率对性能的影响往往是指数级而非线性级。你想想看，1e-3和1e-4差了一个数量级，而1.1e-3和1.2e-3几乎没区别。所以用对数均匀采样能让搜索更高效。
核心要点：搜索空间的设计比搜索算法本身更关键。一个包含所有错误参数的精细搜索，不如一个包含正确粗范围的随机搜索。我在一个药物KG项目中，用50次随机搜索找到了比500次网格搜索更好的结果——就因为网格搜索的步长错过了最优区域。
药物KG评估的特殊性
通用图模型通常只看一个指标（如MRR），但药物KG场景里，我建议你至少看三个：
- Hits@1：对药物重定位特别重要，因为业务方只关心“最有把握的一个候选”。
- Hits@10：对药物副作用预测有用，因为需要更多候选供专家筛选。
- MRR：综合指标，反映排名整体质量。
另外，注意在药物KG中，正负样本比例会影响所有指标。我习惯在验证集上保持真实的负采样分布（而不是随意均匀采样），否则指标会被“假高分”欺骗。
避坑指南：我曾经在某个药物KG数据集上，用均匀负采样得到了0.9的AUC，但换成真实负采样后立刻掉到0.6。当时差点提交论文——后来想想都后怕。所以你的评估设置必须和实际推理场景一致。
好了，关于超参数搜索的概述就说到这里。记住：搜索不是目的，让模型真正帮药物发现才是。下一小节我们会深入常见的搜索算法，看看它们各自的脾气秉性。