VIP20
本课程属于：054-单细胞空间整合特征学习任务 生物信息学与 AI 制药工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

空间模型训练参数优化指南

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
引言
空间模型与参数优化的重要性
引言空间模型
02
训练参数基础
学习率 · 批量大小 · 迭代次数
训练参数基础学习率
03
学习率调度策略
Step · Cosine · OneCycle等
学习率调度策略Step
04
优化器选择
SGD · Adam · AdamW
优化器选择SGD
05
权重初始化
Xavier · Kaiming · 正交初始化影响
权重初始化Xavier
06
正则化技术
L1/L2 · Dropout · DropConnect
正则化技术L1/L2
07
批归一化与层归一化在空间模型中的应用
批归一化与层归一化在空间模型中的应用 · 核心概念 · 实践要点
批归一化层归一化
08
数据增强策略
旋转 · 缩放 · 裁剪
数据增强策略旋转
09
模型架构搜索
深度 · 宽度 · 分辨率的影响
模型架构搜索深度
10
超参数搜索方法
网格搜索 · 随机搜索 · 贝叶斯优化
超参数搜索方法网格搜索
11
学习率热身（Warmup）与衰减策略的调参
学习率热身（Warmup）与衰减策略的调… · 核心概念 · 实践要点
Warmup学习率热身
12
梯度裁剪与梯度累积的实践
梯度裁剪与梯度累积的实践 · 核心概念 · 实践要点
梯度裁剪梯度累积的实践
13
类别不平衡处理
焦点损失 · 权重调整
类别不平衡处理焦点损失
14
多任务学习中的参数共享与平衡
多任务学习中的参数共享与平衡 · 核心概念 · 实践要点
多任务学习参数共享
15
注意力机制参数
头数 · 维度 · dropout率
注意力机制参数头数
16
卷积核尺寸与扩张率的选择
卷积核尺寸与扩张率的选择 · 核心概念 · 实践要点
卷积核尺寸扩张率的选择
17
池化方式
最大池化 · 平均池化 · 全局池化调优
池化方式最大池化
18
激活函数
ReLU · LeakyReLU · GELU
激活函数ReLU
19
损失函数选择
MSE · CrossEntropy · Dice
损失函数选择MSE
20
训练稳定性
梯度爆炸与消失的检测与解决
训练稳定性梯度爆炸
21
模型集成
投票 · 平均 · Stacking的参数
模型集成投票
22
迁移学习
预训练模型选择与微调策略
迁移学习预训练模型选择
23
知识蒸馏
温度参数与软标签的调优
知识蒸馏温度参数
24
量化与剪枝
精度与速度的权衡参数
量化剪枝
25
分布式训练
数据并行与模型并行参数
分布式训练数据并行
26
混合精度训练（AMP）与梯度缩放
混合精度训练（AMP）与梯度缩放 · 核心概念 · 实践要点
AMP混合精度训练
27
学习率与批次大小关系的实验设计
学习率与批次大小关系的实验设计 · 核心概念 · 实践要点
学习率批次大小关系的实…
28
模型检查点与早停策略的参数设置
模型检查点与早停策略的参数设置 · 核心概念 · 实践要点
模型检查点早停策略的参数设…
29
日志记录与可视化
TensorBoard · WandB配置
日志记录可视化
30
实验管理
超参数配置文件的版本控制
实验管理超参数配置文件的…