VIP20
本课程属于：021-GPU数据中心：AI算力集群部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

AI训练推理集群部署环境搭建实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · AI训练推理集群概述
课程导入学习目标
02
基础知识
AI集群相关概念（GPU · TPU · 分布式训练
基础知识AI
03
环境准备
操作系统选择 · 驱动安装（NVIDIA驱动 · CUDA
环境准备操作系统选择
04
容器化基础
Docker安装与配置 · 常用命令 · 镜像管理
容器化基础Docker
05
容器化进阶
Docker Compose · 容器网络 · GPU容器支持（nvidia-doc…
容器化进阶Docker
06
集群管理工具
Kubernetes基础架构 · 核心组件 · 安装方式（kubeadm
集群管理工具Kubernetes
07
GPU调度
Kubernetes设备插件 · GPU资源调度 · 共享GPU配置
GPU调度
08
存储方案
本地存储 · 网络存储（NFS · Ceph）
存储方案本地存储
09
网络配置
集群网络模型（Flannel · Calico） · 高性能网络（RDMA
网络配置Flannel
10
集群监控
Prometheus与Grafana… · GPU监控指标 · 日志收集（ELK）
集群监控Prometheus
11
训练框架集成
TensorFlow分布式训练环境配… · PyTorch分布式训练环境配置
训练框架集成TensorFlow
12
推理框架集成
TensorRT · ONNX Runtime · Triton Inference S…
推理框架集成TensorRT
13
作业调度
Kubernetes Job · Argo Workflows · 分布式训练任务编排
作业调度Kubernetes
14
性能优化
GPU利用率优化 · 数据加载优化 · 混合精度训练
性能优化GPU
15
故障排查
常见问题诊断 · 日志分析 · 性能瓶颈定位
故障排查常见问题诊断
16
安全加固
集群安全策略 · RBAC · 网络安全策略
安全加固集群安全策略
17
多集群管理
联邦集群 · 集群联邦 · 跨地域部署
多集群管理联邦集群
18
云原生AI平台
Kubeflow · MLflow · Ray集成
AI云原生
19
实战案例一
单机多卡训练环境搭建（以PyTorc…
实战案例一PyTorc
20
实战案例二
多机多卡分布式训练环境搭建（以Ten…
实战案例二Ten
21
实战案例三
生产级推理服务部署（使用Triton…
实战案例三Triton
22
实战案例四
GPU集群自动扩缩容（基于Kuber…
实战案例四GPU
23
实战案例五
混合云AI集群部署（本地+云）
实战案例五AI
24
常见问题与解决方案
驱动不匹配 · 网络延迟 · 存储瓶颈等
常见问题解决方案
25
性能测试与基准
使用DLPerf · MLPerf进行性能评估
性能测试基准
26
成本优化
资源计费 · 抢占式实例 · Spot实例使用
成本优化资源计费
27
最佳实践
集群规划 · 命名规范 · 配置管理（Helm）
最佳实践集群规划
28
综合实战
从零搭建一个完整的AI训练推理集群（… · 日志 · 调度）
综合实战AI
29
课程总结
核心知识点回顾 · 技能图谱 · 学习路径建议
课程总结核心知识点回顾
30
综合考核
设计一个集群部署方案并模拟实施
综合考核设计一个集群部署…