VIP20
本课程属于：004-llama cpp AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

CUDA编译与GPU显存管理实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
CUDA简介与环境搭建
发展史 · 应用场景 · 安装CUDA Toolkit
CUDA简介
02
GPU架构基础
SM · Warp · Grid-Block-Thread层…
GPU架构基础
03
CUDA编程模型
核函数 · >>语法 · 线程索引计算
CUDA编程模型
04
NVCC编译器
编译流程 · 编译选项（-arch · -code
NVCC编译器
05
第一个CUDA程序
向量加法实现 · 编译与运行
CUDA第一个
06
全局内存
cudaMalloc · cudaMemcpy · cudaFree
全局内存cudaMalloc
07
线程协作
block内同步 · __syncthreads() · 共享内存简介
线程协作block
08
共享内存
声明 · 使用 · bank conflict
共享内存声明
09
常量内存
__constant__ · cudaMemcpyToSymbol · 只读缓存
常量内存constant
10
纹理内存
纹理对象 · 纹理绑定 · 只读特性
纹理内存纹理对象
11
统一内存（Unified Memory）
cudaMallocManaged · 托管内存 · 页错误迁移
UnifiedMemory
12
锁页内存（Pinned Memory）
cudaMallocHost · cudaHostAlloc · 提高带宽
PinnedMemory
13
内存访问模式
合并访问（coalesced acc… · 步幅访问 · 广播访问
内存访问模式coalesced
14
内存带宽计算
理论带宽 · 有效带宽 · roofline模型
内存带宽计算理论带宽
15
矩阵乘法优化
全局内存版本 · 共享内存分块（tiling） · 循环展开
矩阵乘法优化全局内存版本
16
CUDA流（Streams）
并发内核执行 · cudaStreamCreate · cudaMemcpyAsync
CUDAStreams
17
事件（Events）
时间测量 · 流同步 · cudaEventRecord
Events事件
18
动态并行（Dynamic Parallelism）
核函数内部启动核函数 · 注意事项
DynamicParallelism
19
MPS与多GPU编程
多GPU内存管理 · 点对点通信
MPSGPU
20
CUDA内存池
cudaMemPoolCreate · 池管理 · 性能收益
CUDA内存池
21
内存健康检查
cuda-memcheck · compute-sanitizer · 内存泄漏检测
内存健康检查cuda-memchec…
22
内存错误分析
越界访问 · 未初始化内存 · 使用Valgrind等工具
内存错误分析越界访问
23
代码优化技巧
循环展开 · 向量化 · 减少全局内存访问
代码优化技巧循环展开
24
编译器优化
-O3 · -use_fast_math · -ftz
编译器优化O3
25
编译与链接
分离编译 · 静态库 · 动态库
编译链接
26
CUDA内核调优
occupancy · warp调度 · 指令级并行
CUDA内核调优
27
持久化线程与Cooperative Groups
线程协作组 · grid范围同步
CooperativeGroups
28
CUDA Graphs
固化执行图 · 重复应用场景 · 减少启动开销
CUDAGraphs
29
CUDA与图形API互操作
OpenGL/DirectX共享显存 · 互操作API
CUDAAPI
30
实战项目
高性能高斯消元法的CUDA实现与显存…
实战项目CUDA