VIP8
本课程属于：014-GPU算力集群架构与部署工程 AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

AI大模型集群全链路性能调优实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程大纲 · 适用人群
课程导入学习目标
02
AI大模型与集群基础
大模型训练/推理的基本流程 · 集群架构（计算 · 存储
AI大模型
03
性能调优概述
性能调优的目标 · 关键性能指标（吞吐量 · 延迟
性能调优概述性能调优的目标
04
硬件与基础设施
GPU/TPU等加速器特性 · CPU · 内存
硬件基础设施
05
集群网络优化
网络拓扑（如Fat-Tree） · RDMA · 拥塞控制
集群网络优化Fat-Tree
06
存储系统优化
分布式文件系统 · 对象存储 · 数据加载流水线
存储系统优化分布式文件系统
07
数据加载与预处理
数据管道优化 · 数据增强 · 混合精度数据格式
数据加载预处理
08
模型并行策略
数据并行 · 模型并行 · 流水线并行
模型并行策略数据并行
09
分布式训练框架
PyTorch DDP/FSDP · DeepSpeed · Megatron-LM
分布式训练框架PyTorch
10
通信优化
梯度压缩 · 梯度累积 · 通信与计算重叠
通信优化梯度压缩
11
显存优化
显存管理 · 激活重计算 · 混合精度训练（FP16/BF16）
显存优化显存管理
12
计算优化
算子融合 · 内核优化 · CUDA编程基础
计算优化算子融合
13
推理优化
模型量化（INT8/INT4） · 剪枝 · 蒸馏
推理优化INT8/INT4
14
推理服务部署
推理引擎（TensorRT · vLLM · Triton）
推理服务部署TensorRT
15
性能监控与剖析
性能分析工具（Nsight · Perfetto） · 日志分析
性能监控剖析
16
集群调度与资源管理
Kubernetes · Slurm · 任务调度策略
集群调度资源管理
17
故障排查与容错
常见故障类型 · 检查点与恢复 · 弹性训练
故障排查容错
18
案例实战
基于BERT或的分布式训练调优…
案例实战BERT
19
案例实战
大模型推理服务性能调优案例（如LLa…
案例实战LLa
20
案例实战
多租户集群性能隔离与优化
案例实战多租户集群性能隔…
21
常见问题与解决方案
数据加载瓶颈 · 通信瓶颈 · 显存不足等
常见问题解决方案
22
性能调优工具链
使用Profiler · Tracing · 可视化工具进行系统调优
性能调优工具链Profiler
23
自动调优与机器学习
超参数优化 · 神经架构搜索 · 自动混合精度
自动调优机器学习
24
成本优化
性能与成本平衡 · Spot实例 · 资源弹性伸缩
成本优化性能
25
安全与合规
数据安全 · 模型安全 · 合规性考虑
安全合规
26
前沿技术
稀疏训练 · MoE · 长序列训练
前沿技术稀疏训练
27
综合实战
从零构建一个高性能训练集群并调优
综合实战从零构建一个高性…
28
综合实战
端到端性能调优项目（训练+推理）
综合实战端到端性能调优项…
29
课程总结
核心要点回顾 · 调优最佳实践 · 学习路径建议
课程总结核心要点回顾
30
结业测试
综合测试题与项目答辩
结业测试综合测试题