VIP20

本课程属于：024-英伟达技术 AI与大模型 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

英伟达流处理器阵列底层架构解析

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · 预备知识

课程导入学习目标

GPU与CPU架构对比

并行计算原理 · GPU在图形与计算中的角色

英伟达GPU发展历程

从GeForce到Tesla · Fermi · Kepler

流处理器（SM）基本概念

SM的定义 · 组成 · 与CUDA核心的关系

CUDA核心 · 特殊功能单元（SFU） · 加载/存储单元（LSU）

线程层次结构

线程 · 线程块 · 网格

线程层次结构线程

Warp调度机制

Warp调度器 · 指令发射 · 分支发散与收敛

Warp调度机制

SIMT执行模型

单指令多线程原理 · 与SIMD的区别 · 执行效率

SIMT执行模型

寄存器文件与寄存器分配

寄存器数量 · 寄存器溢出 · 对性能的影响

寄存器文件寄存器分配

共享内存架构

共享内存的组织 · bank冲突 · 同步机制

共享内存架构共享内存的组织

缓存层次结构

L1缓存 · L2缓存 · 只读缓存

缓存层次结构L1

内存访问优化

全局内存合并访问 · 局部性 · 内存事务

内存访问优化全局内存合并访问

流处理器阵列（TPC/GPC）组织

纹理处理簇 · 图形处理簇 · SM的排列与互连

TPC/GPC流处理器阵列

GPU调度与负载均衡

硬件线程调度 · 任务分配 · 动态并行

CUDA编程模型与SM映射

CUDA核函数如何映射到SM · 线程块调度

性能分析工具

NVIDIA Nsight · nvprof · CUDA事件

性能分析工具NVIDIA

性能优化策略

占用率 · 延迟隐藏 · 指令级并行

性能优化策略占用率

矩阵乘法优化：从朴素实现到共享内存 · 寄存器tiling

案例实战矩阵乘法优化

卷积神经网络（CNN）卷积层实现 · Winograd · Tensor Core

案例实战CNN

Tensor Core架构

张量核心原理 · 混合精度计算 · 深度学习加速

RT Core与光线追踪

光线追踪硬件加速 · 与SM的协同

多GPU与NVLink

多GPU系统架构 · NVLink互连 · 统一内存

功耗与散热管理

动态电压频率调整（DVFS） · 功耗墙 · 热设计

功耗散热管理

常见问题与调试

CUDA错误处理 · 内存错误 · 同步问题

常见问题调试

CUDA Graphs · 流与事件 · 多流并发

高级主题CUDA

动态并行 · 协作组 · 编程模型扩展

高级主题动态并行

CUDA与OpenCL · HIP的对比与移植

高级主题CUDA

设计并实现一个图像处理应用（如边缘检…

综合项目设计并实现一个图…

实现一个简单的深度学习推理引擎（如M…

综合项目实现一个简单的深…

课程总结与展望

回顾核心知识 · 未来架构趋势（如Chiplet · 光互连）

课程总结回顾核心知识