01
CUDA编程模型概述
GPU架构演进 · CUDA编程模型 · 主机与设备 · 核函数概念
基础入门
02
线程层次结构
Grid/Block/Thread · 线程索引计算 · 线程块大小选择
线程索引
03
内存层次结构
全局/共享/寄存器/本地/常量/纹理内存
内存层次
04
核函数编写基础
__global__ · __device__ · __host__ · 参数传递
语法修饰符
05
性能分析工具入门
Nsight Systems · Nsight Compute · nvprof
工具profiling
06
内存访问模式优化
合并访问 · 对齐访问 · 内存事务 · 缓存行利用
内存带宽
07
共享内存优化
Bank Conflict · Padding · 动态共享内存
共享内存冲突
08
寄存器优化
寄存器压力 · 寄存器溢出 · 占用率与分配
寄存器占用率
09
线程束发散
Warp概念 · 分支发散 · 谓词化 · 数据重排
warp分支
10
占用率优化
占用率计算 · Block/Thread配置 · 性能关系
占用率配置
11
流与并发
CUDA流 · 流同步 · 多流并发 · MPS服务
并发流
12
异步操作与回调
异步内存传输 · CUDA回调 · 事件管理
异步回调
13
统一内存
统一内存概念 · 页面错误 · 内存迁移 · 陷阱
UM迁移
14
CUDA图
图执行 · 图捕获 · 图更新 · 性能优势
CUDA Graph启动
15
原子操作
原子函数 · 原子性能 · 自定义原子操作
原子同步
16
归约优化
树形归约 · Warp Shuffle · 共享内存 · 多Block
归约Shuffle
17
扫描算法
并行扫描 · 工作高效扫描 · Bank Conflict优化
扫描前缀和
18
矩阵乘法优化
Tiling · 寄存器缓存 · 向量化加载 · Tensor Core
GEMMTensorCore
19
卷积优化
Im2Col · Winograd · 共享内存缓存 · Fused
卷积Winograd
20
稀疏计算优化
稀疏矩阵格式 · CSR/CSC · 负载均衡
稀疏CSR
21
动态并行
动态并行概念 · 子核启动 · 同步与错误处理
动态子核
22
CUDA库使用
cuBLAS · cuFFT · cuSPARSE · Thrust · CUB
库cuBLAS
23
多GPU编程
多GPU通信 · 点对点 · NVLink · GPUDirect
多GPUNVLink
24
CUDA与MPI混合编程
分布式GPU计算 · MPI+CUDA · 通信优化
MPI分布式
25
CUDA与深度学习
cuDNN · TensorRT · 混合精度 · AMP
DLcuDNN
26
CUDA调试技巧
cuda-gdb · cuda-memcheck · Compute Sanitizer
调试Sanitizer
27
性能计数器
性能计数器读取 · 自定义计数器 · 自动化
计数器PM
28
CUDA内核融合
内核融合策略 · Fused Kernel · 减少启动开销
融合启动
29
CUDA与OpenACC对比
指令式编程 · 性能对比 · 适用场景
OpenACC对比
30
CUDA最佳实践总结
优化流程 · 常见陷阱 · 性能调优清单
最佳实践清单