VIP20
本课程属于：015-使用NVIDIA Nsight Compute进行内核级性能分析与优化 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

GPU内核数据驱动迭代调优实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
GPU内核调优的背景 · 目标 · 挑战
课程导入GPU
02
GPU架构基础
GPU硬件架构（SM · 内存层次 · 线程层次）及其对内核性能的影响
GPU架构基础
03
CUDA编程模型
CUDA核函数 · 线程块 · 网格
CUDA编程模型
04
性能分析工具
NVIDIA Nsight Comp… · Nsight Systems · nvprof等工具的使用与性能指标解…
性能分析工具NVIDIA
05
性能瓶颈识别
如何通过分析工具定位内核中的计算瓶颈 · 访存瓶颈 · 延迟瓶颈等
性能瓶颈识别如何通过分析工具…
06
数据驱动调优概述
数据驱动方法在调优中的角色 · 与传统经验调优的对比
数据驱动调优概述数据驱动方法
07
性能数据采集
如何系统性地采集内核在不同配置下的性… · 吞吐量 · 占用率等）
性能数据采集如何系统性地采集…
08
实验设计方法
设计有效的实验来探索参数空间 · 包括网格搜索 · 随机搜索
实验设计方法设计有效的实验来…
09
性能模型建立
基于硬件参数和内核特征建立性能预测模… · 如Roofline模型
性能模型建立基于硬件参数
10
参数调优基础
常见可调参数（线程块大小 · 网格大小 · 循环展开因子
参数调优基础常见可调参数
11
数据预处理与特征工程
如何从性能数据中提取特征 · 用于机器学习模型
数据预处理特征工程
12
机器学习在调优中的应用
使用回归 · 分类等算法预测最优配置或性能
机器学习调优
13
贝叶斯优化实战
利用贝叶斯优化自动搜索最优参数 · 减少实验次数
贝叶斯优化实战利用贝叶斯优化自…
14
强化学习调优探索
强化学习在动态调优中的潜在应用与案例
强化学习调优探索强化学习
15
迭代调优框架
构建数据驱动的迭代调优循环 · 包括测量-分析-调整-验证
迭代调优框架构建数据驱动的迭…
16
案例实战
矩阵乘法内核调优
案例实战矩阵乘法内核调优
17
案例实战
卷积内核调优
案例实战卷积内核调优
18
案例实战
归约内核调优
案例实战归约内核调优
19
案例实战
稀疏矩阵运算调优
案例实战稀疏矩阵运算调优
20
常见问题与解决方案
调优过程中遇到的常见陷阱 · 错误和解决方法
常见问题解决方案
21
自动化调优工具
介绍现有自动调优框架（如OpenTu… · TVM AutoTVM）及其原理
自动化调优工具OpenTu
22
多目标优化
在性能 · 功耗 · 内存占用等多个目标之间进行权衡
多目标优化性能
23
可移植性与扩展性
使调优方法适应不同GPU架构和未来硬…
可移植性扩展性
24
性能回归测试
在代码迭代中确保性能不下降 · 建立性能基准
性能回归测试代码迭代
25
综合项目
从零开始对一个实际内核进行数据驱动迭… · 并撰写报告
综合项目从零开始对一个实…
26
前沿趋势
GPU架构演进 · AI辅助调优 · 编译优化与自动调优的结合
前沿趋势GPU
27
调优思维培养
如何形成数据驱动的思维方式 · 持续优化内核性能
调优思维培养如何形成数据驱动…
28
团队协作与工程实践
在项目中实施调优流程 · 代码管理 · 文档与协作
团队协作工程实践
29
性能调优伦理与最佳实践
避免过度优化 · 平衡开发成本与收益
性能调优伦理最佳实践
30
课程总结与展望
回顾核心内容 · 展望未来学习路径和资源推荐
课程总结回顾核心内容