第01章
CUDA与GPU计算基础
GPU架构演进 · CUDA编程模型 · GPU与CPU协同工作原理
架构入门
第02章
CUDA开发环境搭建
NVIDIA驱动安装 · CUDA Toolkit配置 · cuDNN集成 · 环境验证
环境配置
第03章
CUDA编程核心概念
线程层次结构 · 内存层次结构 · Kernel函数编写
线程内存
第04章
CUDA内存管理
cudaMalloc/cudaMemcpy · 统一内存 · 内存访问优化
内存优化
第05章
CUDA并行计算模式
向量加法 · 矩阵乘法 · 归约操作 · 扫描算法
并行算法
第06章
CUDA流与事件
流的概念与创建 · 流同步 · 事件计时 · 多流并发
异步并发
第07章
CUDA性能分析工具
nvprof/Nsight Systems · 性能瓶颈定位 · Occupancy分析
调优工具
第08章
CUDA优化策略
内存合并访问 · 共享内存 · Bank Conflict · 循环展开
优化共享内存
第09章
多GPU编程
多GPU环境检测 · 点对点通信 · 多GPU协同计算
多GPU通信
第10章
NCCL基础
NCCL库介绍 · 安装配置 · AllReduce/Broadcast/ReduceScatter
NCCL集合通信
第11章
NCCL通信模式
Ring AllReduce · Tree AllReduce · 通信拓扑选择
拓扑AllReduce
第12章
NCCL性能调优
环境变量 · 网络协议(IB/RoCE/TCP) · 带宽测试
调优网络
第13章
集群网络基础
InfiniBand架构 · RoCEv2协议 · 网络拓扑(Fat-Tree/Dragonfly)
网络IB
第14章
集群存储系统
分布式文件系统(Lustre/NFS) · 数据加载策略 · I/O优化
存储I/O
第15章
集群作业管理
Slurm安装配置 · 作业提交脚本 · 资源分配策略
Slurm调度
第16章
容器化部署
Docker+NVIDIA Container Toolkit · Kubernetes+GPU Operator · 镜像构建
容器K8s
第17章
集群监控体系
DCGM指标采集 · Prometheus+Grafana · 告警规则配置
监控DCGM
第18章
吞吐压测方法论
吞吐量定义 · 延迟与吞吐关系 · 压测指标(QPS/TPS/Batch)
压测指标
第19章
压测工具开发
Python多线程压测 · 异步压测(aiohttp) · 结果采集与统计
开发Python
第20章
模型推理压测
TensorRT部署 · 动态Batch · 并发请求模拟 · 吞吐量计算
推理TensorRT
第21章
模型训练压测
数据加载器压测 · 计算-通信重叠 · 吞吐量-精度权衡
训练吞吐
第22章
分布式训练压测
数据并行 · 模型并行 · 流水线并行 · 混合并行压测
分布式并行
第23章
网络带宽压测
iperf3网络测试 · NCCL带宽测试 · MPI带宽测试
网络带宽
第24章
存储I/O压测
fio存储测试 · 数据加载吞吐测试 · 缓存策略影响
存储fio
第25章
全链路压测
端到端流程设计 · 压测场景编排 · 瓶颈定位与优化
全链路压测
第26章
压测结果分析
数据可视化(Matplotlib/Seaborn) · 统计分析 · 报告生成
可视化分析
第27章
常见问题排查
CUDA错误码解析 · NCCL超时处理 · OOM定位 · 网络丢包排查
排错运维
第28章
集群扩缩容实践
节点添加/移除 · 数据迁移策略 · 负载均衡调整
扩缩容运维
第29章
生产环境最佳实践
高可用架构 · 故障恢复 · 安全配置 · 成本优化
生产最佳实践
第30章
综合实战项目
从零搭建8节点GPU集群 · 部署LLM推理 · 全链路吞吐压测与优化报告
实战LLM