VIP20
本课程属于：045-AI药物发现特征学习任务 生物信息学与 AI 制药工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

机器学习损失函数选型与训练稳定性优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
损失函数基础概念
定义 · 作用与数学表达
损失函数基础概念定义
02
回归损失函数
均方误差（MSE） · 平均绝对误差（MAE）与Huber损…
回归损失函数MSE
03
分类损失函数
交叉熵损失 · Hinge损失与平方合页损失
分类损失函数交叉熵损失
04
自定义损失函数
设计原则 · 可微性与实现示例
自定义损失函数设计原则
05
损失函数的梯度特性
平滑性 · 凸性对训练的影响
损失函数的梯度特…平滑性
06
训练稳定性概述
什么是训练不稳定及其表现
训练稳定性概述什么是训练不稳定
07
梯度爆炸与梯度消失
原因 · 判断与经典案例
梯度爆炸梯度消失
08
权重初始化策略
Xavier · He初始化及其与损失函数的匹配
权重初始化策略Xavier
09
学习率调度
固定 · 阶梯衰减 · 余弦退火与自适应调节
学习率调度固定
10
优化器选择
SGD · Momentum · Adam
优化器选择SGD
11
批量归一化
原理 · 位置与对损失函数梯度的影响
批量归一化原理
12
梯度裁剪
阈值设置 · 时机与常用实现
梯度裁剪阈值设置
13
正则化与损失函数
L1/L2正则化项 · 稀疏性与损失曲面
正则化损失函数
14
标签平滑
原理 · 实现与对交叉熵损失的改进
标签平滑原理
15
类别不平衡处理
加权损失 · Focal Loss与数据重采样
类别不平衡处理加权损失
16
对比损失
Siamese网络 · InfoNCE与温度参数
对比损失Siamese
17
三元组损失
公式 · 难样本挖掘与margin选择
三元组损失公式
18
焦点损失（Focal Loss）
gamma参数 · alpha平衡与多分类扩展
FocalLoss
19
损失函数与模型鲁棒性
对抗训练中的损失设计
损失函数模型鲁棒性
20
训练监控
损失曲线分析 · 过拟合/欠拟合判断与早停法
训练监控损失曲线分析
21
早停法
耐心值 · 验证集损失与模型保存策略
早停法耐心值
22
学习率热启动
Warmup阶段的损失行为与设置技巧
学习率热启动Warmup
23
循环学习率
CLR策略与损失振荡的关系
循环学习率CLR
24
损失函数选择的实验设计
网格搜索与对比基线
损失函数选择的实…网格搜索
25
多任务损失平衡
加权法 · 不确定性加权与GradNorm
多任务损失平衡加权法
26
GAN中的损失函数
JS散度 · Wasserstein损失与梯度惩罚
GAN损失函数
27
自监督学习损失
SimCLR · BYOL与对比预测编码
自监督学习损失SimCLR
28
损失函数与模型容量
欠参数化/过参数化下的损失性质
损失函数模型容量
29
实际项目调优案例
图像分类 · 目标检测与序列标注中的损失选择
实际项目调优案例图像分类
30
总结与最佳实践
损失函数选择的流程与训练稳定性检查清…
最佳实践损失函数选择的流…