VIP8
本课程属于：024-DeepSpeed分布式训练工程 AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

DeepSpeed全链路监控与系统级调优

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
DeepSpeed全链路监控与系统级… · 核心价值 · 整体知识框架与实战路线图
课程导入DeepSpeed
02
DeepSpeed基础回顾
核心组件ZeRO · Offload · 混合精度
DeepSpeed基础回顾
03
监控体系概览
全链路监控的定义 · 监控层次（硬件 · 框架
监控体系概览全链路监控的定义
04
DeepSpeed内置监控工具
DeepSpeed Monitor · 日志系统 · TensorBoard集成
DeepSpeed内置监控工具
05
性能指标解析
吞吐量 · 延迟 · GPU利用率
性能指标解析吞吐量
06
系统级监控工具
NVIDIA DCGM · Nsight Systems · PyTorch Profiler
系统级监控工具NVIDIA
07
全链路追踪
从数据加载 · 前向传播 · 反向传播
全链路追踪从数据加载
08
显存监控与优化
显存碎片 · 峰值显存 · 激活值检查点
显存监控优化
09
计算性能调优
算子融合 · CUDA Graph · 混合精度训练
计算性能调优算子融合
10
通信性能调优
集合通信原语 · 通信重叠 · 梯度压缩
通信性能调优集合通信原语
11
数据加载与I/O调优
数据管道瓶颈分析 · 预取 · 缓存
I/O数据加载
12
ZeRO阶段调优
ZeRO-1/2/3的监控指标差异 · 参数配置 · Offload策略及性能对比实战
ZeRO阶段调优
13
混合精度与Loss Scaling调优
动态Loss Scaling · BF16/FP16选择 · 溢出监控与调优案例
LossScaling
14
检查点与容错监控
检查点保存/加载性能 · 异步检查点 · 故障恢复监控与调优
检查点容错监控
15
分布式训练监控
多机多卡环境下的监控挑战 · 网络监控 · 节点健康检查与故障定位
分布式训练监控多机多卡环境下的…
16
自动化调优
超参数搜索 · 自动混合精度 · 自动并行策略与DeepSpeed A…
自动化调优超参数搜索
17
案例实战一
大规模语言模型训练全链路监控与调优（…
案例实战一大规模语言模型训…
18
案例实战二
计算机视觉模型训练监控与调优（Res…
案例实战二Res
19
案例实战三
推荐系统模型训练监控与调优（DLRM…
案例实战三DLRM
20
常见问题与排查
OOM · 训练速度慢 · 通信瓶颈
常见问题排查
21
监控数据可视化与告警
Grafana仪表盘设计 · 关键指标告警规则 · 日志聚合分析
监控数据可视化告警
22
成本与资源优化
GPU利用率提升 · 弹性训练 · Spot实例监控与成本控制策略
成本资源优化
23
综合提升
从监控到调优的闭环方法论 · 性能基准测试 · 持续优化流程
综合提升从监控到调优的闭…
24
前沿趋势
DeepSpeed最新特性 · 异构计算 · AI编译器与监控调优的融合
前沿趋势DeepSpeed
25
项目实战
端到端搭建DeepSpeed训练任务…
项目实战DeepSpeed
26
性能调优实验设计
A/B测试 · 消融实验 · 指标对比与结果分析
性能调优实验设计A/B
27
大规模部署监控
Kubernetes环境下的Deep…
大规模部署监控Kubernetes
28
安全与合规监控
训练数据隐私 · 模型安全 · 合规性监控要点
安全合规监控
29
课程总结
核心知识点回顾 · 调优最佳实践 · 常见陷阱与规避
课程总结核心知识点回顾
30
下一步学习
进阶资源 · 社区参与 · 认证路径与持续学习建议
下一步学习进阶资源