首页
›
AI智能与边缘计算工程
›
036-CUDA内存传输与带宽优化
›
《内存拷贝与显存峰值控制实战》
VIP8
本课程属于：036-CUDA内存传输与带宽优化
AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
内存拷贝与显存峰值控制实战
📚 共计 30 章节
01
内存拷贝基础
CPU与GPU内存架构差异 · PCIe传输原理 · cudaMemcpy详解
基础
PCIe
02
显存生命周期
cudaMalloc/cudaFree最佳实践 · 显存池化技术 · 内存碎片整理
池化
碎片
03
异步传输
cudaMemcpyAsync与流(Stream) · 双缓冲技术 · 计算与传输重叠
Stream
双缓冲
04
零拷贝技术
cudaHostAlloc固定内存 · 映射锁页内存 · 统一虚拟寻址(UVA)
零拷贝
UVA
05
显存峰值控制
显存预算规划 · 梯度检查点 · 混合精度训练显存优化
检查点
混合精度
06
高级传输优化
NCCL集合通信 · GPUDirect RDMA · NVLink与NVSwitch拓扑感知
NCCL
RDMA
07
性能剖析与调优
Nsight Systems显存追踪 · 带宽利用率计算 · 常见瓶颈诊断
Nsight
调优
08
实战案例
大模型训练显存优化 · 实时推理管线设计 · 多GPU数据并行传输策略
大模型
多GPU
09
内存拷贝基础
CPU与GPU内存架构差异 · PCIe传输原理 · cudaMemcpy详解
基础
PCIe
10
显存生命周期
cudaMalloc/cudaFree最佳实践 · 显存池化技术 · 内存碎片整理
池化
碎片
11
异步传输
cudaMemcpyAsync与流(Stream) · 双缓冲技术 · 计算与传输重叠
Stream
双缓冲
12
零拷贝技术
cudaHostAlloc固定内存 · 映射锁页内存 · 统一虚拟寻址(UVA)
零拷贝
UVA
13
显存峰值控制
显存预算规划 · 梯度检查点 · 混合精度训练显存优化
检查点
混合精度
14
高级传输优化
NCCL集合通信 · GPUDirect RDMA · NVLink与NVSwitch拓扑感知
NCCL
RDMA
15
性能剖析与调优
Nsight Systems显存追踪 · 带宽利用率计算 · 常见瓶颈诊断
Nsight
调优
16
实战案例
大模型训练显存优化 · 实时推理管线设计 · 多GPU数据并行传输策略
大模型
多GPU
17
内存拷贝基础
CPU与GPU内存架构差异 · PCIe传输原理 · cudaMemcpy详解
基础
PCIe
18
显存生命周期
cudaMalloc/cudaFree最佳实践 · 显存池化技术 · 内存碎片整理
池化
碎片
19
异步传输
cudaMemcpyAsync与流(Stream) · 双缓冲技术 · 计算与传输重叠
Stream
双缓冲
20
零拷贝技术
cudaHostAlloc固定内存 · 映射锁页内存 · 统一虚拟寻址(UVA)
零拷贝
UVA
21
显存峰值控制
显存预算规划 · 梯度检查点 · 混合精度训练显存优化
检查点
混合精度
22
高级传输优化
NCCL集合通信 · GPUDirect RDMA · NVLink与NVSwitch拓扑感知
NCCL
RDMA
23
性能剖析与调优
Nsight Systems显存追踪 · 带宽利用率计算 · 常见瓶颈诊断
Nsight
调优
24
实战案例
大模型训练显存优化 · 实时推理管线设计 · 多GPU数据并行传输策略
大模型
多GPU
25
内存拷贝基础
CPU与GPU内存架构差异 · PCIe传输原理 · cudaMemcpy详解
基础
PCIe
26
显存生命周期
cudaMalloc/cudaFree最佳实践 · 显存池化技术 · 内存碎片整理
池化
碎片
27
异步传输
cudaMemcpyAsync与流(Stream) · 双缓冲技术 · 计算与传输重叠
Stream
双缓冲
28
零拷贝技术
cudaHostAlloc固定内存 · 映射锁页内存 · 统一虚拟寻址(UVA)
零拷贝
UVA
29
显存峰值控制
显存预算规划 · 梯度检查点 · 混合精度训练显存优化
检查点
混合精度
30
高级传输优化
NCCL集合通信 · GPUDirect RDMA · NVLink与NVSwitch拓扑感知
NCCL
RDMA
所属VIP或分类
同VIP：CUDA内存拷贝性能调优实战
同VIP：吞吐压测与内存拷贝优化实战
同VIP：吞吐压测与显存峰值优化实战