VIP20
本课程属于：020-SMILES分子生成建模 生物信息学与 AI 制药工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

多GPU分布式分子生成训练与参数优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
分子生成概述
分子表示 · 生成任务 · 应用场景
分子生成概述分子表示
02
深度学习基础回顾
神经网络 · 激活函数 · 损失函数
深度学习基础回顾神经网络
03
分子表示方法
SMILES · 分子图 · 3D坐标
分子表示方法SMILES
04
生成模型基础
自编码器 · VAE · GAN
生成模型基础自编码器
05
分子生成中的VAE
模型架构 · 分子表示学习 · 生成样本
VAE分子生成
06
分子生成中的GAN
MolGAN · GAN训练稳定性
GAN分子生成
07
分子生成中的扩散模型
分子扩散 · 去噪过程 · 应用
分子生成扩散模型
08
分子优化与性质预测
多目标优化 · 逆合成 · 性质导向生成
分子优化性质预测
09
多GPU训练概述
为什么需要多GPU · 数据并行 · 模型并行
GPU训练概述
10
分布式训练通信基础
NCCL · MPI · Gloo
分布式训练通信基…NCCL
11
PyTorch分布式训练框架
DistributedDataPar… · torchrun
PyTorch分布式训练框架
12
数据并行原理与实践
数据分片 · 梯度同步 · Batch Size调整
数据并行原理数据分片
13
模型并行与张量并行
拆分模型层 · Megatron-LM思想
模型并行张量并行
14
流水线并行
GPipe · PipeDream · 微批次
流水线并行GPipe
15
混合精度训练
FP16 · BF16 · AMP
混合精度训练FP16
16
梯度累积与梯度裁剪
节省显存 · 稳定训练
梯度累积梯度裁剪
17
分布式训练中的学习率调度
学习率缩放规则
分布式训练学习率调度
18
分布式训练中的数据加载
DistributedSampler · 数据shuffle
分布式训练数据加载
19
分子生成中的训练挑战
模式坍塌 · 样本多样性 · 化学有效性
分子生成训练挑战
20
分布式训练在分子生成中的应用
案例研究
分布式训练分子生成
21
环境配置
多GPU集群 · Docker · NVIDIA Docker
环境配置GPU
22
代码实战
基于DDP训练分子VAE（一） · 分子图构建
代码实战DDP
23
代码实战
基于DDP训练分子VAE（二） · 训练循环
代码实战DDP
24
代码实战
基于DDP训练分子VAE（三） · 日志记录
代码实战DDP
25
代码实战
基于DDP训练分子GAN（一）
代码实战DDP
26
代码实战
基于DDP训练分子GAN（二）
代码实战DDP
27
代码实战
基于DDP训练分子扩散模型（一）
代码实战DDP
28
代码实战
基于DDP训练分子扩散模型（二）
代码实战DDP
29
性能优化
显存分析 · 计算效率 · 多节点训练
性能优化显存分析
30
总结与展望
未来方向 · 联邦学习 · 模型压缩
未来方向联邦学习