VIP20
本课程属于：010-CUDA+TensorRT AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

CUDA+TensorRT协同工作流地图

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · CUDA与TensorRT协同工作流…
课程导入学习目标
02
环境搭建
CUDA · cuDNN · TensorRT的安装与配置
环境搭建CUDA
03
CUDA编程基础
GPU架构 · 线程层次 · 内存层次
CUDA编程基础
04
CUDA进阶
共享内存 · 同步 · 流与事件
CUDA进阶
05
TensorRT基础
TensorRT简介 · 核心组件 · 工作流程概述
TensorRT简介
06
模型转换
从PyTorch/TensorFlo… · ONNX到TensorRT的转换
模型转换PyTorch/Tens…
07
TensorRT引擎构建
构建器配置 · 网络定义 · 优化策略（精度
TensorRT引擎构建
08
TensorRT推理
上下文创建 · 输入输出绑定 · 执行推理
TensorRT推理
09
CUDA与TensorRT集成
自定义层实现 · CUDA内存管理 · 数据拷贝优化
CUDATensorRT
10
性能分析
使用Nsight Systems和N…
性能分析Nsight
11
优化技巧
算子融合 · 内核自动调优 · 动态形状处理
优化技巧算子融合
12
多流与并发
多流推理 · 多GPU部署 · 异步处理
多流并发
13
案例实战
图像分类模型（ResNet）的CUD…
案例实战ResNet
14
案例实战
目标检测模型（YOLOv5）的CUD…
案例实战YOLOv5
15
案例实战
语义分割模型（DeepLabV3）的…
案例实战DeepLabV3
16
常见问题
精度损失 · 内存泄漏 · 性能瓶颈排查
常见问题精度损失
17
常见问题
动态形状 · 批处理 · 多线程安全
常见问题动态形状
18
常见问题
自定义算子 · 插件编写与调试
常见问题自定义算子
19
综合提升
端到端推理服务设计（预处理 · 推理 · 后处理流水线）
综合提升端到端推理服务设…
20
综合提升
模型量化（INT8/FP16）与校准
综合提升INT8/FP16
21
综合提升
TensorRT与深度学习框架的协同…
综合提升TensorRT
22
综合提升
TensorRT与CUDA图（CUD…
综合提升TensorRT
23
综合提升
TensorRT与TensorRT-…
综合提升TensorRT
24
综合提升
TensorRT与DeepStrea…
综合提升TensorRT
25
综合提升
TensorRT与Triton In…
综合提升TensorRT
26
综合提升
TensorRT与边缘设备部署（Je…
综合提升TensorRT
27
综合提升
TensorRT与容器化部署（Doc…
综合提升TensorRT
28
综合提升
TensorRT与云服务部署（AWS…
综合提升TensorRT
29
综合提升
性能调优实战（从瓶颈到优化）
综合提升性能调优实战
30
课程总结
知识回顾 · 最佳实践 · 学习路径建议
课程总结知识回顾