01
GPU架构与CUDA基础
GPU硬件架构概览 · CUDA编程模型 · 线程层次结构 · 内存层次结构
架构CUDA
02
性能分析工具入门
NVIDIA Nsight Systems · Nsight Compute · 性能瓶颈识别
工具分析
03
内存访问优化
全局内存合并访问 · 共享内存bank冲突 · 常量/纹理内存
内存带宽
04
执行配置优化
Grid/Block大小 · Occupancy计算 · Warp调度与分支发散
Occupancy调度
05
指令级优化
算术指令吞吐量 · intrinsics内建函数 · 循环展开与预取
指令吞吐
06
流与并发执行
CUDA Streams · 异步操作与重叠 · 多流并发模式
并发Stream
07
核函数启动开销
启动延迟分析 · 内核合并 · 持久化线程模式
延迟合并
08
寄存器与本地内存
寄存器压力管理 · 本地内存溢出 · 编译器优化选项
寄存器编译
09
共享内存高级技巧
动态共享内存 · Bank冲突消除 · 共享内存与寄存器协同
共享内存Bank
10
原子操作与同步
原子函数性能 · 细粒度锁 · __syncthreads()使用
原子同步
11
CUDA Graphs
图捕获与重放 · 图依赖管理 · 图性能优势
Graph捕获
12
统一内存优化
UM页错误管理 · 预取与迁移 · oversubscription策略
统一内存UM
13
CUDA动态并行
嵌套核函数 · 动态并行开销 · 递归模式
动态并行嵌套
14
Tensor Core编程
Tensor Core基础 · WMMA API · 混合精度训练
Tensor Core混合精度
15
CUDA库集成
cuBLAS优化 · cuFFT调优 · cuDNN最佳实践
cuBLAScuDNN
16
多GPU编程
点对点通信 · NVLink优化 · 多GPU负载均衡
多GPUNVLink
17
CUDA与MPI混合编程
分布式GPU计算 · MPI+CUDA通信 · 梯度聚合优化
MPI分布式
18
性能剖析与瓶颈定位
Roofline模型 · 性能计数器 · 瓶颈优先级排序
Roofline剖析
19
编译器优化与PTX
nvcc编译选项 · PTX汇编调优 · 内联PTX
PTX编译
20
数值精度与性能
浮点运算精度 · 快速数学函数 · 混合精度策略
精度混合精度
21
稀疏计算优化
稀疏矩阵存储 · 稀疏核函数 · cuSPARSE使用
稀疏cuSPARSE
22
卷积操作优化
im2col算法 · Winograd算法 · cuDNN卷积调优
卷积Winograd
23
归约操作优化
树形归约 · Warp级归约 · 多阶段归约
归约Warp
24
扫描操作优化
并行扫描算法 · Bank冲突避免 · 工作负载均衡
扫描并行
25
排序算法优化
双调排序 · 基数排序 · 归并排序GPU实现
排序GPU
26
图算法优化
BFS优化 · PageRank实现 · 图遍历模式
图算法BFS
27
深度学习推理优化
TensorRT集成 · INT8量化 · 算子融合
TensorRTINT8
28
CUDA内存池管理
内存池创建与配置 · 碎片管理 · 池化策略
内存池碎片
29
性能可移植性
跨代GPU优化 · 自适应算法 · 运行时调优
可移植自适应
30
综合实战
端到端应用优化案例 · 性能调优方法论 · 最佳实践清单
实战方法论