所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

CUDA并行编程:从入门到精通

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
CUDA并行编程的课程目标 · 学习路径 · 应用领域与整体知识框架
课程导入CUDA
02
并行计算基础
并行计算的基本概念 · Flynn分类法 · 并行硬件架构（多核CPU
并行计算基础并行计算的基本概…
03
GPU架构与CUDA概述
GPU硬件架构（SM · SP · 显存层次）
GPUCUDA
04
第一个CUDA程序
编写并运行简单的向量加法程序 · 理解内核启动语法（>>） · 线程索引
CUDA第一个
05
线程层次结构
线程 · 线程块 · 网格的层次关系
线程层次结构线程
06
CUDA内存模型
全局内存 · 共享内存 · 寄存器
CUDA内存模型
07
内存访问优化
全局内存合并访问 · 内存对齐 · 共享内存的bank冲突
内存访问优化全局内存合并访问
08
线程同步与协作
__syncthreads()的使用 · 线程块内协作 · 原子操作（atomicAdd等）的原…
线程同步协作
09
CUDA错误处理与调试
CUDA错误检查方法（cudaGet… · 使用cuda-gdb · Nsight调试工具
CUDA错误处理
10
性能分析工具
使用nvprof · Nsight Compute · Nsight Systems分析内核…
性能分析工具nvprof
11
矩阵乘法基础实现
使用全局内存实现矩阵乘法 · 分析性能瓶颈 · 理解计算密度与访存比
矩阵乘法基础实现使用全局内存实现…
12
矩阵乘法优化（共享内存）
使用共享内存分块（tiling）技术… · 减少全局内存访问 · 处理bank冲突
矩阵乘法优化共享内存
13
矩阵乘法优化（寄存器与循环展开）
使用寄存器缓存 · 循环展开 · 向量化（float4）等高级优化手段…
矩阵乘法优化寄存器
14
归约（Reduction）算法
并行归约的多种实现（交错 · 连续 · 线程块内归约）
Reduction归约
15
前缀和（Scan）算法
并行前缀和的Hillis-Steel… · 实现高效扫描 · 应用于流压缩等场景
Scan前缀
16
直方图计算
并行直方图的实现方法 · 使用共享内存与原子操作 · 处理冲突与性能优化
直方图计算并行直方图的实现…
17
卷积运算
图像卷积的CUDA实现 · 使用共享内存与常量内存 · 处理边界条件
卷积运算CUDA
18
流与并发执行
CUDA流的概念 · 多流并发 · 事件同步
并发执行CUDA
19
CUDA动态并行
动态并行（Dynamic Paral… · 在设备端启动内核 · 适用于递归或自适应算法
CUDA动态并行
20
CUDA库与API
使用cuBLAS · cuFFT · Thrust等库加速常见计算
CUDAAPI
21
多GPU编程
多GPU环境下的任务划分 · 点对点通信（P2P） · 统一虚拟地址（UVA）
GPU编程
22
统一内存与托管内存
统一内存（Unified Memor… · 使用cudaMallocManage… · 内存迁移与性能调优
统一内存托管内存
23
CUDA与深度学习
在深度学习框架（如PyTorch · TensorFlow）中自定义CUD… · 实现自定义激活函数或损失函数
CUDA深度学习
24
CUDA与图像处理
实现图像缩放 · 边缘检测（Sobel） · 色彩空间转换等图像处理算法
CUDA图像处理
25
CUDA与科学计算
求解偏微分方程（如热传导） · N体模拟等科学计算案例 · 使用共享内存与并行归约
CUDA科学计算
26
CUDA与加密算法
实现AES或哈希算法的并行化 · 分析数据依赖与并行策略
CUDA加密算法
27
性能优化综合案例
以矩阵乘法或卷积为例 · 从基础实现到多级优化（内存 · 指令
性能优化综合案例以矩阵乘法或卷积…
28
常见问题与陷阱
未定义行为 · 竞态条件 · 死锁
常见问题陷阱
29
CUDA编程规范与最佳实践
代码风格 · 可读性 · 可维护性
CUDA编程规范
30
综合项目实战
设计并实现一个完整的CUDA应用（如… · 图像处理流水线） · 涵盖需求分析
综合项目实战CUDA