首页
›
AI智能与边缘计算工程
›
162-NVIDIA CUDA与TensorRT GPU加速工程
›
《NVIDIA GPU加速项目交付指南》
VIP20
本课程属于:162-NVIDIA CUDA与TensorRT GPU加速工程
AI智能与边缘计算工程 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
NVIDIA GPU加速项目交付指南
共计 30 章节
可可资料掘金营 · 点击在线试看
01
GPU加速项目交付全景
目标=理解NVIDIA GPU加速项… · 关键角色 · 交付物与常见风险
GPU
加速项目交付全景
02
GPU硬件与架构选型
目标=对比不同NVIDIA GPU架… · Hopper · Ada Lovelace)的计算能力
GPU
硬件
03
CUDA编程模型与交付视角
目标=掌握线程层次 · 内存层次 · 核函数执行模型
CUDA
编程模型
04
GPU加速项目环境搭建
目标=安装CUDA Toolkit · 驱动 · cuDNN
GPU
加速项目环境搭建
05
性能基准与瓶颈定位
目标=使用Nsight System… · Nsight Compute · nvprof等工具进行性能剖析
性能基准
瓶颈定位
06
内存优化与数据搬运
目标=掌握全局内存 · 共享内存 · 常量内存
内存优化
数据搬运
07
核函数优化实战
目标=通过合并访问 · 占用率调优 · 指令级并行
核函数优化实战
目标=通过合并访…
08
多GPU与分布式训练基础
目标=理解NCCL · NVLink · PCIe拓扑
GPU
分布式训练基础
09
GPU加速深度学习推理交付
目标=使用TensorRT优化模型 · 进行层融合 · 精度校准
GPU
加速深度学习推理…
10
GPU加速深度学习训练交付
目标=混合精度训练 · 梯度累积 · 分布式数据并行
GPU
加速深度学习训练…
11
CUDA与主流框架集成
目标=在PyTorch · TensorFlow · JAX中编写自定义CUDA算子
CUDA
主流框架集成
12
GPU加速科学计算项目
目标=以分子动力学 · 计算流体力学或金融蒙特卡洛为例 · 完成CUDA/OpenACC加速与验…
GPU
加速科学计算项目
13
GPU加速视频与图像处理
目标=使用NVIDIA Video… · DALI · OpenCV CUDA模块构建实时处…
GPU
加速视频
14
GPU加速推荐系统与图计算
目标=利用cuDF · cuGraph · TensorRT实现特征工程
GPU
加速推荐系统
15
GPU加速大语言模型推理
目标=掌握KV Cache · PagedAttention · 连续批处理
GPU
加速大语言模型推…
16
GPU加速大语言模型微调
目标=使用LoRA · QLoRA · FSDP
GPU
加速大语言模型微…
17
GPU加速项目容器化与编排
目标=基于Docker · NVIDIA Container T… · Kubernetes device…
GPU
加速项目容器化
18
GPU集群资源管理与调度
目标=使用Slurm · Kubernetes · Run:ai等工具进行配额
GPU
集群资源管理
19
GPU加速项目监控与可观测性
目标=集成DCGM · Prometheus · Grafana
GPU
加速项目监控
20
GPU加速项目成本优化
目标=通过实例选型 · Spot实例 · 自动伸缩
GPU
加速项目成本优化
21
GPU加速项目安全与合规
目标=处理数据隐私 · 模型保护 · 多租户隔离
GPU
加速项目安全
22
GPU加速项目容错与可靠性
目标=设计检查点 · 冗余 · 健康检查
GPU
加速项目容错
23
GPU加速项目持续集成与持续交付
目标=构建CUDA代码的CI/CD流… · 包括编译 · 单元测试
GPU
加速项目持续集成
24
GPU加速项目版本管理与依赖治理
目标=管理CUDA · 驱动 · 框架
GPU
加速项目版本管理
25
GPU加速项目性能回归与基准测试
目标=建立可复现的基准套件 · 跟踪每次迭代的吞吐 · 延迟与资源消耗变化
GPU
加速项目性能回归
26
GPU加速项目文档与知识传递
目标=编写架构决策记录 · 性能调优手册 · 运维手册与故障排查指南
GPU
加速项目文档
27
GPU加速项目交付验收
目标=定义验收标准 · 性能SLA · 测试报告
GPU
加速项目交付验收
28
GPU加速项目上线与灰度发布
目标=制定上线计划 · 灰度策略 · 回滚方案与线上性能验证方法
GPU
加速项目上线
29
GPU加速项目运维与持续调优
目标=处理日常巡检 · 告警响应 · 容量规划
GPU
加速项目运维
30
GPU加速项目复盘与前沿跟进
目标=总结交付经验 · 跟踪NVIDIA最新架构 · 软件栈与行业最佳实践
GPU
加速项目复盘
所属VIP或分类
同VIP:CUDA与TensorRT协同加速平台
同VIP:CUDA图像处理算法加速与优化
同VIP:CUDA多GPU并行计算与任务调度工程