VIP20
本课程属于：015-使用NVIDIA Nsight Compute进行内核级性能分析与优化 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU内存访问模式优化与缓存命中提升进阶

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
GPU内存层次结构概览 · 优化目标与学习路径
课程导入GPU
02
GPU内存基础
全局内存 · 共享内存 · 寄存器
GPU内存基础
03
内存访问模式基础
合并访问 · 内存事务 · 带宽利用率的原理
内存访问模式基础合并访问
04
缓存体系详解
L1/L2缓存架构 · 缓存行 · 缓存命中与未命中的代价
缓存体系详解L1/L2
05
缓存命中率分析工具
使用NVIDIA Nsight Co…
缓存命率分析工具
06
全局内存合并访问优化
数组结构体（AoS）与结构体数组（S…
全局内存合并访问…AoS
07
共享内存与Bank冲突
共享内存的组织 · Bank冲突的避免与Padding技…
Bank共享内存
08
只读缓存与纹理路径
利用__ldg和纹理对象提升只读数据…
只读缓存纹理路径
09
缓存友好的数据分块
Tiling技术 · 分块大小选择与边界处理
缓存友好的数据分…Tiling
10
循环展开与缓存利用
通过循环展开减少内存访问次数
循环展开缓存利用
11
预取技术
软件预取与硬件预取在GPU上的应用
预取技术GPU
12
内存访问模式对缓存的影响
顺序 · 随机 · 步长访问的缓存行为
内存访问模式对缓…顺序
13
矩阵乘法优化案例
从朴素实现到共享内存分块与缓存优化
矩阵乘法优化案例从朴素实现到共享…
14
卷积操作优化案例
im2col与直接卷积的内存访问优化
卷积操作优化案例im2col
15
归约操作优化
并行归约中的内存访问模式与缓存优化
归约操作优化并行归约
16
稀疏矩阵运算优化
稀疏格式（CSR · COO）与缓存友好访问
稀疏矩阵运算优化CSR
17
原子操作与缓存一致性
原子操作的性能影响与优化策略
原子操作缓存一致性
18
多GPU与统一内存
跨设备内存访问与缓存管理
GPU统一内存
19
常见性能瓶颈分析
内存带宽受限 · 延迟受限与缓存未命中
常见性能瓶颈分析内存带宽受限
20
性能优化方法论
分析-优化-验证的循环 · 使用性能计数器
性能优化方法论分析
21
高级缓存控制
缓存流 · 持久化L2 · 访问策略窗口
高级缓存控制缓存流
22
内存分配与对齐
对齐分配 · 大页内存对缓存的影响
内存分配对齐
23
向量化加载与存储
float4/int4等向量类型的使…
向量化加载存储
24
分支与内存访问
线程发散对内存事务的影响
分支内存访问
25
工作负载特征分析
不同访问模式下的优化策略选择
工作负载特征分析不同访问模式下的…
26
深度学习中的内存优化
卷积 · Transformer等模型的内存访…
深度学习内存优化
27
科学计算中的内存优化
有限差分 · 粒子模拟等案例
科学计算内存优化
28
综合实战项目
图像处理应用的内存访问优化与缓存调优
综合实战项目图像处理应用的内…
29
常见问题与调试技巧
缓存未命中的诊断与修复
常见问题调试技巧
30
课程总结与进阶方向
前沿技术（如HBM · NVLink）与持续学习资源
课程总结进阶方向