01
GPU的前世今生：从图形卡到通用计算巨兽的进化之路
从图形渲染到通用计算，GPU的演进与变革
历史架构
02
GPU架构概览：SM、CUDA Core、Tensor Core、RT Core等核心组件解析
深入GPU核心模块，理解计算单元
架构核心
03
线程层次结构：Grid、Block、Thread的划分逻辑与映射关系
线程组织与硬件映射
线程层次
04
Warp调度机制：Warp的概念、Warp调度器的工作原理与指令发射
Warp调度与指令发射
调度Warp
05
SIMT执行模型：单指令多线程的执行方式与分支发散问题
SIMT模型与分支发散
执行分支
06
内存层次结构：全局内存、共享内存、寄存器、本地内存、常量内存、纹理内存
完整内存体系解析
内存层次
07
全局内存访问模式：合并访问、对齐访问与带宽利用率优化
高效访问全局内存
内存优化
08
共享内存与Bank Conflict：共享内存的Bank结构、冲突避免与Padding技术
共享内存与Bank冲突
共享内存Bank
09
寄存器压力与Spilling：寄存器分配策略、寄存器溢出对性能的影响
寄存器管理与溢出
寄存器性能
10
常量内存与纹理内存：只读缓存的优势与适用场景
只读缓存与特殊内存
常量纹理
11
Stream与并发执行：CUDA Stream的概念、默认Stream与多Stream并发
Stream并发执行
Stream并发
12
异步操作与回调：异步内存拷贝、Kernel Launch与回调函数
异步与回调机制
异步回调
13
事件同步与计时：CUDA Event的使用、时间测量与同步点
事件与同步计时
事件同步
14
Occupancy与性能调优：Occupancy计算、Block/Thread配置优化
Occupancy与配置优化
Occupancy调优
15
Latency Hiding机制：指令级并行、线程级并行与延迟隐藏
延迟隐藏与并行
延迟隐藏
16
Warp Divergence优化：分支发散的原因、影响与优化策略
分支发散与优化
分支Warp
17
指令级并行与ILP：指令流水线、依赖关系与ILP提升技巧
指令级并行技巧
ILP流水线
18
内存带宽瓶颈分析：Roofline模型、计算密集度与带宽利用率
Roofline与带宽分析
带宽Roofline
19
Kernel Launch开销：启动延迟、Grid/Block维度选择与Launch优化
Kernel启动优化
Launch开销
20
动态并行与嵌套Kernel：GPU动态并行机制、递归与嵌套调用
动态并行与嵌套
动态嵌套
21
MPS与多进程服务：MPS原理、多进程共享GPU资源与隔离
MPS多进程共享
MPS多进程
22
MIG与GPU分区：多实例GPU技术、分区粒度与资源隔离
MIG分区与隔离
MIG分区
23
GPU虚拟化与调度：vGPU、GPU Passthrough与远程调用
虚拟化与远程调度
虚拟化vGPU
24
CUDA Graph：图捕获、图执行与Kernel Launch开销消除
CUDA Graph优化
Graph捕获
25
持久化线程与持久化Kernel：长生命周期线程、任务队列与动态调度
持久化线程与调度
持久化线程
26
GPU调度器硬件实现：硬件调度器结构、优先级与抢占机制
硬件调度器与抢占
硬件调度
27
GPU时间片调度：时间片轮转、优先级调度与QoS保证
时间片与QoS
时间片QoS
28
多租户GPU调度：Kubernetes GPU调度、共享与隔离策略
K8s GPU调度
多租户K8s
29
GPU调度性能分析工具：NVIDIA Nsight、nvprof、NVIDIA SMI使用
性能分析工具实战
工具Nsight
30
GPU调度最佳实践：典型场景的调度策略选择与性能优化总结
最佳实践与总结
最佳实践总结