所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

CUDA编程:从零基础到实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
CUDA编程的定位 · 学习路径 · 环境搭建（NVIDIA驱动
课程导入CUDA
02
GPU架构与并行计算基础
GPU硬件架构（SM · SP · 内存层次）
GPU架构
03
CUDA编程模型
核函数（kernel）的编写与调用 · 线程层次结构（grid · block
CUDA编程模型
04
CUDA程序编译与运行
nvcc编译流程 · 编译选项 · 运行时API与驱动API的区别
CUDA程序编译
05
内存管理基础
全局内存（global memory… · cudaMemcpy · cudaFree）
内存管理基础global
06
线程索引与数据映射
一维 · 二维 · 三维网格与块的索引计算
线程索引数据映射
07
CUDA并行归约（Reduction）
并行归约算法原理 · 交错归约与顺序归约 · 避免bank冲突
CUDAReduction
08
共享内存（Shared Memory）
共享内存的特性 · 声明与使用（__shared__） · 同步机制（__syncthreads…
SharedMemory
09
内存访问模式与性能优化
合并访问（coalesced acc… · 内存对齐 · 数组结构体（AoS）与结构体数组（S…
内存访问模式性能优化
10
线程同步与原子操作
线程同步的必要性 · 原子操作（atomicAdd等）的使… · 原子操作的性能开销与替代方案
线程同步原子操作
11
CUDA流（Streams）与并发
流的概念 · 创建与使用 · 多流并发执行
CUDAStreams
12
CUDA事件与性能测量
事件计时 · 带宽计算 · 使用nvprof或Nsight Co…
CUDA事件
13
矩阵乘法基础实现
矩阵乘法的CPU实现回顾 · GPU朴素实现 · 线程索引与数据加载
矩阵乘法基础实现CPU
14
矩阵乘法优化（tiling）
使用共享内存分块（tile）技术 · 块内数据加载与同步 · 减少全局内存访问
tiling矩阵乘法优化
15
矩阵乘法进一步优化
寄存器缓存 · 向量化加载（float4） · 避免bank冲突
矩阵乘法进一步优…寄存器缓存
16
卷积运算的CUDA实现
卷积神经网络中的卷积操作 · 直接卷积实现 · 使用共享内存优化卷积
CUDA卷积运算的
17
归约与扫描（Scan）算法
并行扫描（prefix sum）的H… · 在CUDA中的实现 · 应用场景（如流压缩）
Scan归约
18
排序算法在CUDA中的实现
并行归并排序 · 双调排序（Bitonic Sort） · 基数排序的GPU实现
CUDA排序算法
19
CUDA中的图算法
图数据结构表示 · BFS（广度优先搜索）的并行实现 · 顶点与边并行策略
CUDA图算法
20
CUDA中的稀疏矩阵计算
稀疏矩阵存储格式（CSR · COO） · 稀疏矩阵向量乘法（SpMV）实现
CUDA稀疏矩阵计算
21
CUDA中的动态并行（Dynamic Parallelism）
动态并行概念 · 从设备端启动核函数 · 使用场景与限制
CUDADynamic
22
CUDA纹理内存与表面内存
纹理内存的用途 · 纹理对象与绑定 · 采样器
CUDA纹理内存
23
CUDA与多GPU编程
多GPU环境检测 · 多流多GPU执行 · 点对点通信（P2P）
CUDAGPU
24
CUDA与深度学习框架集成
通过PyTorch/TensorFl… · 编写C++/CUDA扩展 · 使用torch.utils.cpp_…
CUDA深度学习框架集成
25
CUDA中的错误处理与调试
常见错误类型（非法内存访问 · 同步错误） · 使用cuda-gdb
CUDA错误处理
26
CUDA性能优化高级技巧
占用率（occupancy）计算与调… · 寄存器压力控制 · 指令级并行
CUDA性能优化高级技巧
27
CUDA中的数值精度与稳定性
浮点运算精度问题 · 双精度与单精度 · 快速数学函数（-use_fast_m…
CUDA数值精度
28
CUDA实战项目
图像处理（灰度化 · 高斯模糊 · 边缘检测）的完整实现
CUDA实战项目
29
CUDA实战项目
分子动力学模拟或N体问题（N-bod… · 使用共享内存 · 多GPU
CUDA实战项目
30
课程总结与进阶路径
回顾核心知识点 · 常见问题与解决方案 · CUDA生态（cuBLAS
课程总结进阶路径