01
CUDA基础与环境搭建
GPU架构概述 · CUDA Toolkit安装 · nvcc编译器 · 第一个CUDA程序
环境入门
02
CUDA编程模型
Kernel函数 · 线程层次结构 · 内存层次 · 主机与设备交互
线程内存
03
CUDA内存管理
cudaMalloc/Free · cudaMemcpy · 统一内存 · 带宽测试
内存带宽
04
CUDA流与并发
Stream概念 · 创建与销毁 · 异步操作 · 多Stream并发
并发Stream
05
CUDA事件与性能测量
事件创建 · cudaEventElapsedTime · 带宽计算 · 延迟测量
性能测量
06
吞吐压测核心指标
吞吐量 · 延迟 · 带宽利用率 · 计算/内存吞吐
指标压测
07
压测工具链搭建
Nsight Systems · Nsight Compute · nvprof/ncu · 自定义框架
工具调试
08
基准测试设计
基准原则 · 微基准 · 宏基准 · 负载模型设计
设计基准
09
内存带宽压测
cudaMemcpy带宽 · Global/Shared/寄存器带宽
带宽内存
10
计算吞吐压测
FLOPS测试 · 矩阵乘法 · 卷积 · FFT吞吐
计算吞吐
11
并发执行压测
多Kernel并发 · 多Stream · MPS · GPU时间分片
并发MPS
12
PCIe带宽压测
主机→设备 · 设备→主机 · 双向 · P2P传输
PCIe传输
13
显存容量压测
极限分配 · 碎片测试 · 泄漏检测 · OOM处理
显存极限
14
功耗与温度压测
nvidia-smi监控 · 功耗曲线 · 温度阈值 · 降频检测
功耗温度
15
持久化压测
长时间稳定性 · ECC错误 · 重置恢复 · 日志记录
稳定性持久
16
多GPU压测
多卡同步 · NCCL通信 · 负载均衡 · 拓扑感知
多GPUNCCL
17
CUDA Graph压测
Graph创建/捕获 · 重放 · 优化 · 与Stream对比
Graph优化
18
CUDA动态并行
动态并行原理 · 子Kernel · 递归Kernel · 压测
动态并行
19
CUDA Tensor Core压测
Tensor Core原理 · WMMA · cuBLAS Tensor Core · 混合精度
Tensor混合精度
20
CUDA库压测
cuBLAS · cuFFT · cuRAND · Thrust压测
库cuBLAS
21
自定义Kernel压测
手写优化 · Occupancy分析 · 指令级并行 · 寄存器压力
Kernel优化
22
压测数据采集
自动化采集 · 时间戳同步 · 性能计数器 · 日志结构化
采集数据
23
压测数据分析
统计方法 · 异常检测 · 趋势分析 · 瓶颈定位
分析统计
24
压测报告生成
报告模板 · 可视化图表 · 对比分析 · 结论建议
报告可视化
25
压测自动化框架
Python脚本 · 参数化配置 · CI/CD集成 · 失败重试
自动化CI/CD
26
压测环境管理
Docker容器化 · 环境一致性 · 版本管理 · 依赖管理
环境Docker
27
压测安全与隔离
进程隔离 · 显存隔离 · 优先级控制 · 资源限制
安全隔离
28
压测结果对比
版本对比 · 硬件对比 · 配置对比 · 回归测试
对比回归
29
压测最佳实践
测试用例设计 · 数据准备 · 结果验证 · 文档编写
最佳实践文档
30
综合实战
端到端压测系统 · 真实场景模拟 · 性能调优 · 总结展望
实战综合