VIP20
本课程属于：079-AMD EPYC服务器与高性能计算工程 后端、数据与云原生工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

AMD EPYC AI训练基础设施规划与部署

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入与AMD EPYC在AI训练中的定位
目标=学习目标 · AI训练基础设施的组成 · EPYC处理器在训练集群中的角色
AMDEPYC
02
AMD EPYC处理器架构与AI训练关键特性
目标=Zen架构演进 · 核心与缓存层次 · 内存通道与带宽
AMDEPYC
03
AI训练工作负载特征分析
目标=训练与推理的区别 · 数据并行与模型并行 · 通信模式
AI训练工作负载特征…
04
EPYC服务器平台选型与配置规划
目标=单路与双路平台 · 主板与芯片组 · 内存容量与频率
EPYC服务器平台选型
05
训练集群网络架构规划
目标=InfiniBand与RoCE… · RDMA原理 · 胖树与轨道优化拓扑
训练集群网络架构…InfiniBand
06
存储与数据管道设计
目标=并行文件系统 · NVMe本地缓存 · 数据预处理与加载
存储数据管道设计
07
GPU与EPYC的协同拓扑设计
目标=PCIe Gen4/Gen5通… · GPU直连CPU · NUMA亲和性
GPUEPYC
08
内存与NUMA调优
目标=EPYC NUMA域 · 内存交织策略 · 大页内存
NUMA内存
09
BIOS与固件关键设置
目标=NUMA节点设置 · 内存频率与交织 · PCIe拆分
BIOS固件关键设置
10
操作系统与驱动栈部署
目标=Linux发行版选择 · 内核参数调优 · AMD GPU驱动与ROCm栈
操作系统驱动栈部署
11
ROCm与AI框架环境搭建
目标=ROCm安装与验证 · PyTorch与TensorFlow… · 容器化方案
ROCmAI
12
容器与编排平台规划
目标=Docker与Singular… · ROCm容器镜像 · Kubernetes与GPU调度
容器编排平台规划
13
单节点训练性能基准测试
目标=基准测试方法论 · CPU与GPU利用率监控 · 内存带宽测试
单节点训练性能基…目标=基准测试方…
14
多节点分布式训练部署
目标=MPI与RCCL配置 · NCCL环境变量 · 节点发现与启动
多节点分布式训练…MPI
15
数据并行训练优化
目标=AllReduce通信优化 · 梯度累积 · 混合精度训练
数据并行训练优化AllReduce
16
模型并行与流水线并行实践
目标=张量并行 · 流水线并行 · 通信模式差异
模型并行流水线并行实践
17
训练任务调度与资源管理
目标=Slurm与Kubernete… · GPU与CPU资源分配 · NUMA感知调度
训练任务调度资源管理
18
性能监控与瓶颈定位
目标=监控工具栈 · CPU与GPU指标 · 网络与存储指标
性能监控瓶颈定位
19
功耗、散热与能效管理
目标=EPYC功耗特性 · GPU功耗 · 机架功耗预算
功耗散热
20
高可用与容错设计
目标=检查点与恢复 · 冗余网络 · 存储高可用
高可用容错设计
21
安全与多租户隔离
目标=硬件安全特性 · 安全启动 · 内存加密
安全多租户隔离
22
大规模训练集群部署实战
目标=集群规划 · 机架布局 · 网络布线
大规模训练集群部…目标=集群规划
23
典型AI训练场景部署案例
目标=计算机视觉 · 自然语言处理 · 推荐系统
AI典型
24
成本优化与TCO分析
目标=硬件采购成本 · 能耗成本 · 运维成本
TCO成本优化
25
故障排查与运维实践
目标=常见硬件故障 · 驱动与库问题 · 网络故障
故障排查运维实践
26
性能调优进阶
目标=CPU频率与功耗策略 · GPU与CPU亲和性 · 通信库调优
性能调优进阶CPU
27
未来技术演进与升级路径
目标=新一代EPYC架构 · PCIe Gen5与CXL · GPU演进
未来技术演进升级路径
28
课程项目
目标=设计一个基于AMD EPYC的… · 硬件选型 · 网络与存储设计
课程项目AMD
29
课程项目
目标=部署并优化一个多节点训练任务 · 任务部署 · 性能测试
课程项目目标=部署并优化…
30
课程总结与最佳实践
目标=关键知识点回顾 · 规划与部署检查清单 · 常见陷阱
课程总结最佳实践