VIP20
本课程属于:017-Nsight AI算力与GPU工程 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

Nsight数据采集与吞吐压测实战

📚 共计 30 章节
01
Nsight概述
什么是NVIDIA Nsight · 工具家族 · GPU开发核心价值
概念入门
02
环境准备
Nsight Systems/Compute安装 · CUDA兼容性 · 环境变量
安装配置
03
Nsight Systems界面
主界面布局 · 时间轴 · 事件追踪 · GPU/CPU活动
界面可视化
04
Nsight Compute界面
内核分析 · 性能指标 · 源代码关联 · 寄存器/内存
分析调试
05
数据采集基础
Trace/Profile模式 · 采样频率 · 采集时长控制
采集模式
06
CPU数据采集
线程活动 · 函数调用栈 · CPU-GPU同步点
CPU追踪
07
GPU数据采集
内核启动 · 内存操作 · 流与事件追踪
GPU性能
08
内存数据采集
设备内存分配 · 数据传输 · 统一内存访问
内存带宽
09
API追踪
CUDA Runtime/Driver API · cuBLAS/cuDNN追踪
API库
10
吞吐压测概念
吞吐量定义 · 延迟关系 · 压测目标 · 基线
理论指标
11
压测场景设计
单内核/多内核并发 · 数据流 · 混合负载
场景设计
12
压测工具链
Nsight命令行 · nsys profile · nvprof迁移
工具CLI
13
nsys profile实战
命令格式 · 输出文件 · .nsys-rep / .sqlite
实战nsys
14
ncu实战
内核分析 · 指标选择 · 报告生成 · 对比
ncu分析
15
数据导出与可视化
导出CSV/JSON · Python解析Nsight数据
导出可视化
16
Python数据分析
Pandas读取 · Matplotlib/Seaborn图表
Python绘图
17
吞吐量计算
内核执行时间 · 有效吞吐 · 理论/实际带宽
计算带宽
18
瓶颈定位
计算/内存瓶颈 · 延迟隐藏 · 占用率
优化瓶颈
19
压测报告生成
自动化模板 · KPI定义 · 趋势图表
报告自动化
20
多GPU压测
多GPU环境 · 跨GPU采集 · 负载均衡
多GPU扩展
21
分布式压测
多节点配置 · 数据聚合 · 网络瓶颈
分布式通信
22
深度学习模型压测
PyTorch/TensorFlow · 数据加载器瓶颈
DL模型
23
自定义内核压测
编写压测内核 · 参数控制 · 自动化脚本
CUDA脚本
24
压力测试策略
逐步加压 · 极限测试 · 稳定性 · 长时间运行
策略稳定性
25
结果分析与优化
热点定位 · 代码优化 · 内存模式 · 并行度
优化重构
26
Nsight高级功能
自定义指标 · 脚本化 · 远程采集 · CI集成
高级自动化
27
常见问题排查
数据不完整 · 性能开销 · 版本兼容 · 权限
排错FAQ
28
实战案例1:矩阵乘法
吞吐压测 · 从基线到优化
案例GEMM
29
实战案例2:图像处理流水线
端到端性能分析 · 吞吐压测
案例流水线
30
课程总结
Nsight最佳实践 · 优化方法论 · 学习路径
总结进阶