VIP20
本课程属于：010-CUDA+TensorRT AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

CUDA与TensorRT入门知识框架

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 环境准备（CUDA
课程导入学习目标
02
GPU计算基础
GPU架构 · CPU与GPU对比 · 并行计算概念
GPU计算基础
03
CUDA编程模型
线程层次 · 内存层次 · 核函数编写与调用
CUDA编程模型
04
CUDA内存管理
全局内存 · 共享内存 · 常量内存
CUDA内存管理
05
CUDA同步与流
同步机制 · 事件 · 多流并发
CUDA同步
06
CUDA性能优化
内存访问优化 · 指令优化 · 占用率调优
CUDA性能优化
07
CUDA调试与工具
NVIDIA Nsight · cuda-gdb · 性能分析
CUDA调试
08
TensorRT概述
TensorRT的作用 · 优势 · 应用场景
TensorRT的作用
09
TensorRT安装与配置
安装步骤 · 版本选择 · 环境变量设置
TensorRT安装
10
TensorRT基本概念
引擎 · 上下文 · 绑定
TensorRT基本概念
11
模型转换与部署
从PyTorch/TensorFlo…
模型转换部署
12
TensorRT网络定义
使用API构建网络 · 层类型 · 输入输出
TensorRT网络定义
13
TensorRT推理流程
引擎创建 · 上下文执行 · 内存管理
TensorRT推理流程
14
TensorRT精度与量化
FP32 · FP16 · INT8量化原理与实践
TensorRT精度
15
TensorRT性能优化
动态形状 · 批处理 · 多流推理
TensorRT性能优化
16
TensorRT插件开发
自定义层实现与集成
TensorRT插件开发
17
TensorRT与CUDA集成
自定义CUDA内核在TensorRT…
TensorRTCUDA
18
案例实战
图像分类模型部署（ResNet）
案例实战ResNet
19
案例实战
目标检测模型部署（YOLO）
案例实战YOLO
20
案例实战
语义分割模型部署（UNet）
案例实战UNet
21
案例实战
自然语言处理模型部署（BERT）
案例实战BERT
22
常见问题与解决方案
内存不足 · 精度下降 · 性能瓶颈
常见问题解决方案
23
性能对比与分析
CPU vs GPU vs Tens…
性能对比分析
24
多GPU与分布式推理
多卡部署 · 负载均衡
GPU分布式推理
25
TensorRT与深度学习框架集成
PyTorch · TensorFlow · ONNX Runtime
TensorRT深度学习框架集成
26
模型压缩与加速
剪枝 · 蒸馏 · 量化与TensorRT结合
模型压缩加速
27
实时推理系统设计
低延迟 · 高吞吐 · 服务化部署
实时推理系统设计低延迟
28
TensorRT新特性与未来趋势
DLA · Triton · 版本更新
TensorRT新特性
29
综合项目
从零构建一个高性能推理服务
综合项目从零构建一个高性…
30
课程总结与进阶路径
学习资源 · 社区 · 认证
课程总结进阶路径