VIP20
本课程属于：015-使用NVIDIA Nsight Compute进行内核级性能分析与优化 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU指令流水线效能解析与吞吐优化

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
GPU计算概述 · 指令流水线的重要性 · 学习目标与课程框架
课程导入GPU
02
GPU架构基础
GPU硬件架构（SM · CUDA核心 · 内存层次）
GPU架构基础
03
指令流水线原理
流水线阶段划分 · 指令发射与执行 · 流水线深度与吞吐量关系
指令流水线原理流水线阶段划分
04
GPU指令集与执行模型
SIMT执行模型 · warp调度 · 指令级并行（ILP）与线程级并行（T…
GPU指令集
05
流水线效能指标
吞吐量 · 延迟 · 占用率
流水线效能指标吞吐量
06
性能分析工具
NVIDIA Nsight Comp… · nvprof · ncu等工具的使用与性能数据解读
性能分析工具NVIDIA
07
指令依赖与冒险
数据冒险 · 控制冒险 · 结构冒险在GPU中的表现与影响
指令依赖冒险
08
分支发散与优化
分支发散的原因 · 代价及优化策略（如重构 · 谓词化）
分支发散优化
09
内存访问优化
内存合并 · 缓存利用 · 共享内存使用对流水线效能的影响
内存访问优化内存合并
10
指令调度优化
编译器优化 · 手动指令重排 · 使用内建函数（如__syncwarp…
指令调度优化编译器优化
11
循环展开与优化
循环展开对指令流水线的影响 · 权衡与实现方法
循环展开优化
12
向量化与数据布局
向量化指令（如float4）的使用 · 数据布局对带宽和流水线的影响
向量化数据布局
13
内核启动配置优化
网格/块大小 · 寄存器分配 · 占用率与流水线效能的平衡
内核启动配置优化网格
14
异步操作与流水线重叠
异步内存拷贝 · 多流并发 · 计算与数据传输重叠
异步操作流水线重叠
15
案例实战
矩阵乘法优化（基础版 · 共享内存版 · 寄存器优化版）的流水线效能对比
案例实战矩阵乘法优化
16
案例实战
归约（Reduction）操作的优化…
案例实战Reduction
17
案例实战
图像卷积（Convolution）的…
案例实战Convolution
18
案例实战
粒子模拟（N-Body）的优化与流水…
案例实战N-Body
19
常见性能瓶颈
识别流水线停顿 · 内存延迟隐藏不足 · 指令吞吐瓶颈等
常见性能瓶颈识别流水线停顿
20
性能调优方法论
自顶向下与自底向上的分析流程 · 瓶颈定位与优化迭代
性能调优方法论自顶向下
21
高级主题
指令级并行与线程级并行的权衡 · 动态并行 · warp specializatio…
高级主题指令级并行
22
高级主题
Tensor Core与指令流水线 · 混合精度训练中的效能优化
高级主题Tensor
23
高级主题
多GPU编程与流水线并行 · 点对点通信与负载均衡
高级主题GPU
24
常见问题与解决方案
分支发散严重 · 内存访问不连续 · 寄存器溢出等问题的处理
常见问题解决方案
25
性能测试与基准
设计基准测试 · 性能对比方法 · 结果分析与报告
性能测试基准
26
综合实战
从给定算法到优化实现的全流程（如GE…
综合实战GE
27
综合实战
深度学习推理中的卷积层优化与流水线效…
综合实战深度学习推理
28
综合实战
科学计算中的Stencil计算优化与…
综合实战Stencil
29
课程总结
核心要点回顾 · 优化思维培养 · 学习资源推荐
课程总结核心要点回顾
30
结业项目
独立完成一个GPU优化项目 · 提交性能分析报告与优化代码
结业项目GPU