4. 生成模型基础与选型

分子生成不是“随便挑一个生成模型”就能跑通的任务。它同时受三重约束：分子表示（SMILES、图、3D 构象）、化学有效性（价键、芳香性、可合成性）以及工程目标（多样性、可控性、采样速度、训练稳定性）。变分自编码器（VAE）、生成对抗网络（GAN）、自回归模型（AR）、扩散模型（Diffusion）和流模型（Flow）在这三重约束下的表现差异很大，选型的本质是把任务需求映射到模型的结构性能力上。

五类模型的核心机制与分子适配性

VAE 通过编码器把分子映射到连续隐空间，再由解码器重建，损失为重建项加 KL 正则。它的优势是隐空间连续、可插值、可做属性优化（在 z 空间上做梯度搜索）；弱点是重建与先验之间的张力会导致解码出的 SMILES 出现语法错误，且后验坍缩会让隐变量失效。分子场景中常配合语法掩码或图解码器使用。

GAN 用生成器与判别器对抗训练，不显式建模似然。它采样快、样本“锐利”，但训练不稳定、模式坍塌严重。在分子生成中，判别器很难判断“化学合理性”，因此纯 GAN 生成的 SMILES 有效率通常偏低，更多用于骨架跃迁或与强化学习结合（如 ORGAN、MolGAN 的图版本）。

自回归模型把分子序列的概率分解为逐 token 条件概率乘积，天然适配 SMILES 的字符序列或图的节点-边序列。训练目标稳定（最大似然），似然可精确计算，采样是逐位生成。代价是采样串行、长序列误差累积，且生成顺序会引入归纳偏置。它是目前 SMILES 生成最稳的基线之一。

扩散模型定义前向加噪与反向去噪过程，在连续空间（3D 坐标、隐向量）或离散空间（图、token）上工作。它训练稳定、样本质量高、模式覆盖好，适合 3D 构象生成与口袋条件生成；缺点是采样需要几十到上千步，推理成本高，离散扩散的转移设计也更复杂。

流模型通过可逆变换建立数据与先验之间的双射，似然可精确计算，采样与编码都很快。但可逆性对分子图这种离散、变长结构不友好，连续流多用于 3D 坐标或隐空间建模，直接生成离散分子图需要耦合层与离散化设计，工程复杂度较高。

选型依据：从表示形式出发，而不是从模型热度出发

工程上最有效的选型顺序是“先定表示，再定模型”。如果目标是生成 SMILES 字符串，自回归模型是默认基线：它把 P(SMILES) = ∏ P(t_i | t_<i) 直接建模，训练用交叉熵，采样用温度参数控制多样性。温度 T=1.0 接近训练分布，T=0.7~0.8 更保守、有效率更高，T=1.2 多样性上升但语法错误率也上升。这个权衡在 VAE 和 GAN 上并不直观，在 AR 上却是一个可调旋钮。

如果目标是 3D 构象或口袋条件生成，扩散模型几乎是当前首选。它的前向过程 q(x_t | x_{t-1}) = N(√(1-β_t) x_{t-1}, β_t I) 把结构逐步破坏，反向网络学习去噪。对分子而言，坐标用连续扩散、原子类型用离散扩散或分类扩散，条件信息（口袋残基、药效团）通过 cross-attention 注入。代价是采样步数通常 50~1000 步，单分子生成耗时可能是 AR 的几十倍，因此适合“质量优先、批量不大”的场景。

VAE 的独特价值在隐空间优化。训练完成后，固定解码器，在 z 空间上对目标属性（如 logP、QED、对接分数）做梯度上升，可以生成“属性更好”的分子。但要注意 KL 权重 β 的调节：β 太小则隐空间不规则、插值失效；β 太大则重建变差、解码出无效 SMILES。实践中常用 β-annealing，从 0 逐步升到目标值。

GAN 和 Flow 在分子生成中更多是“特定场景工具”。GAN 适合与强化学习结合做目标导向生成，但需要奖励函数设计得当，否则模式坍塌会集中在少数高奖励骨架上。Flow 适合需要精确似然的场景（如密度估计、异常检测），但直接生成离散分子图需要处理可逆性与离散化的矛盾，工程成本高，通常只在连续隐空间或 3D 坐标上使用。

一个可执行的选型决策表

下面给出一个面向工程落地的选型参考。表中“推荐度”是相对该任务场景的适配程度，不是模型绝对优劣。

工程落地的几个关键判断点

第一，有效率优先于多样性。分子生成如果有效率低于 60%，后续对接和筛选的成本会急剧上升。AR 和 Diffusion 通常能到 90% 以上，GAN 和 VAE 需要额外约束。第二，条件控制方式决定模型选择。属性条件可以用条件 AR 或隐空间优化；结构条件（口袋、骨架）更适合 Diffusion 的 cross-attention。第三，采样成本要算总账。Diffusion 单次采样慢，但如果它一次生成的有效分子多、后续筛选少，总成本可能反而低。第四，训练稳定性影响迭代速度。GAN 调参成本高，AR 和 Diffusion 相对省心，团队工程经验不足时优先选后者。

最后，混合方案往往比单一模型更实用。例如用 AR 预训练一个 SMILES 先验，再用 Diffusion 在隐空间或 3D 坐标上做精修；或者用 VAE 学隐空间、用 Flow 做精确密度估计。选型不是选“最强模型”，而是选“与当前表示、条件、预算最匹配的模型组合”。