VIP20
本课程属于：015-使用NVIDIA Nsight Compute进行内核级性能分析与优化 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

多内核GPU工作负载分配与性能调优进阶

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 多内核GPU基础概念与性能调优的重要…
课程导入学习目标
02
GPU架构基础
现代GPU硬件架构（SM · CUDA核心 · 内存层次）
GPU架构基础
03
工作负载分析
识别计算密集型和内存密集型任务 · 使用性能分析工具（如NVIDIA N…
工作负载分析识别计算密集型
04
内核调度机制
GPU内核调度器工作原理 · 并发内核执行 · 流（Stream）与事件（Event…
内核调度机制GPU
05
多内核分配策略
静态与动态工作负载分配 · 负载均衡算法 · 任务依赖处理
多内核分配策略静态
06
内存优化基础
全局内存 · 共享内存 · 寄存器使用优化
内存优化基础全局内存
07
共享内存与同步
共享内存分配 · 同步机制（__syncthreads… · 避免银行冲突
共享内存同步
08
内核间数据传递
设备间数据传输 · 零拷贝内存 · 统一虚拟地址（UVA）与统一内存
内核间数据传递设备间数据传输
09
多GPU编程模型
多GPU系统拓扑 · CUDA多设备编程 · 点对点通信（P2P）
GPU编程模型
10
多GPU工作负载划分
数据并行与模型并行 · 静态划分与动态调度 · 负载不均衡处理
GPU工作负载划分
11
性能调优方法论
性能分析流程 · 瓶颈识别 · 优化迭代循环
性能调优方法论性能分析流程
12
内核融合与分解
内核融合减少启动开销 · 内核分解提高并行度 · 权衡分析
内核融合分解
13
并发内核优化
多内核并发执行 · 流优先级 · 事件同步
并发内核优化多内核并发执行
14
GPU利用率提升
占用率优化 · 线程块大小与网格大小选择 · 寄存器限制
GPU利用率提升
15
内存带宽优化
内存访问模式优化 · 使用向量化类型 · 避免非对齐访问
内存带宽优化内存访问模式优化
16
计算优化
算术强度提升 · 使用快速数学函数 · 避免分支发散
计算优化算术强度提升
17
多内核调度实战
使用CUDA Graphs捕获内核序… · 图执行与更新
多内核调度实战CUDA
18
性能分析工具进阶
Nsight Compute与Nsi… · 性能指标解读
性能分析工具进阶Nsight
19
案例实战
矩阵乘法优化
案例实战矩阵乘法优化
20
案例实战
卷积神经网络推理优化
案例实战卷积神经网络推理…
21
案例实战
分子动力学模拟
案例实战分子动力学模拟
22
常见问题与解决方案
负载不均衡 · 同步开销 · 内存竞争
常见问题解决方案
23
多内核调优高级技巧
动态并行 · 协作组（Cooperative Gr… · 网格同步
多内核调优高级技…动态并行
24
能耗与散热管理
功耗限制 · 频率调节 · 能效优化策略
能耗散热管理
25
多GPU集群与分布式计算
多节点GPU通信（MPI+GPU） · 集群调度
GPU集群
26
性能调优自动化
自动调优工具（如CUDA Auto-… · 机器学习辅助调优
性能调优自动化CUDA
27
综合项目
设计并实现一个多内核GPU应用 · 进行性能调优并撰写报告
综合项目GPU
28
课程总结
核心知识点回顾 · 调优经验总结 · 未来发展趋势
课程总结核心知识点回顾
29
拓展学习
GPU虚拟化 · 容器化GPU环境 · 云GPU服务
拓展学习GPU
30
结课测试
综合测试题与实战考核 · 评估学习成果
结课测试综合测试题