第1章
CUDA与AI训练概述
GPU计算发展史 · CUDA生态全景 · AI训练为什么需要GPU · 课程目标与前置知识
入门概念
第2章
硬件选型与采购
主流GPU型号对比（A100/H100/RTX4090）· 显存与带宽分析 · 服务器整机配置建议 · 电源与散热方案
硬件选型
第3章
Linux基础环境
Ubuntu Server 22.04安装 · SSH远程配置 · 基础网络设置 · 系统更新与安全加固
系统Linux
第4章
NVIDIA驱动安装
驱动版本选择策略 · 官方驱动安装（runfile/apt）· 驱动验证与故障排查 · 多GPU环境配置
驱动GPU
第5章
CUDA Toolkit安装
CUDA版本选择与兼容性 · CUDA安装步骤 · 环境变量配置 · nvcc验证与测试
CUDA核心
第6章
cuDNN库安装
cuDNN版本匹配规则 · cuDNN安装与配置 · cuDNN测试样例运行 · 常见安装问题
加速库深度学习
第7章
TensorRT安装与配置
TensorRT版本选择 · 安装步骤 · ONNX模型转换示例 · 推理优化基础
推理优化
第8章
NVIDIA Container Toolkit
Docker安装 · NVIDIA Container Toolkit配置 · GPU容器运行测试 · 容器资源限制
容器Docker
第9章
Python环境管理
Miniconda安装 · conda环境创建与管理 · pip源配置 · 虚拟环境最佳实践
PythonConda
第10章
深度学习框架安装（PyTorch）
PyTorch版本选择 · CUDA版本对应 · pip安装与conda安装 · 验证GPU可用性
PyTorch框架
第11章
深度学习框架安装（TensorFlow）
TensorFlow版本选择 · GPU支持安装 · 验证GPU训练 · 常见兼容性问题
TensorFlow框架
第12章
深度学习框架安装（JAX）
JAX简介 · JAX安装 · GPU支持验证 · 与PyTorch对比
JAX框架
第13章
NCCL与多卡通信
NCCL安装 · 多卡通信原理 · all-reduce测试 · 多机通信配置
通信分布式
第14章
分布式训练框架（DeepSpeed）
DeepSpeed安装 · ZeRO优化器配置 · 混合精度训练 · 训练脚本示例
DeepSpeedZeRO
第15章
分布式训练框架（Megatron-LM）
Megatron-LM安装 · 模型并行配置 · 流水线并行 · 训练启动示例
Megatron模型并行
第16章
分布式训练框架（Horovod）
Horovod安装 · MPI配置 · 分布式训练示例 · 性能调优
HorovodMPI
第17章
数据加载与预处理
DataLoader优化 · 内存映射 · 数据预处理流水线 · Apex混合精度
数据性能
第18章
训练监控与可视化
TensorBoard配置 · Weights & Biases集成 · GPU监控（nvidia-smi）· 系统资源监控
监控可视化
第19章
模型保存与加载
Checkpoint策略 · 模型序列化 · 断点续训 · 模型导出（ONNX/TorchScript）
模型持久化
第20章
性能分析与调优
Nsight Systems使用 · Nsight Compute使用 · Profiling分析 · 瓶颈定位
调优Nsight
第21章
常见错误与解决方案
CUDA out of memory · 驱动崩溃 · 版本不兼容 · 训练不收敛排查
排错实战
第22章
多用户环境配置
用户权限管理 · 共享存储配置 · 作业调度系统（Slurm）基础 · 资源配额
多用户Slurm
第23章
存储系统配置
NFS配置 · Lustre文件系统 · 数据缓存策略 · IO性能优化
存储IO
第24章
网络配置优化
InfiniBand配置 · RDMA设置 · 网络性能测试 · 多机通信优化
网络InfiniBand
第25章
容器化训练环境
Dockerfile编写 · Docker镜像构建 · Kubernetes基础 · GPU调度配置
K8s容器
第26章
CI/CD for ML
GitLab CI配置 · 自动化测试 · 模型训练流水线 · 环境一致性保证
CI/CDMLOps
第27章
安全与合规
GPU资源访问控制 · 数据加密 · 审计日志 · 合规检查清单
安全合规
第28章
成本优化
云GPU实例选择 · 竞价实例使用 · 预留实例策略 · 成本监控与告警
成本云
第29章
灾难恢复与备份
数据备份策略 · 系统镜像备份 · 快速恢复流程 · 高可用架构
备份高可用
第30章
综合实战
从零搭建完整训练环境 · 训练LLaMA类模型 · 性能验证 · 环境交付文档编写
实战LLaMA