VIP20

本课程属于：160-NVIDIA Jetson边缘AI与嵌入式视觉工程 AI智能与边缘计算工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

NVIDIA Jetson CUDA算子加速与性能调优

共计 30 章节

可可资料掘金营 · 点击在线试看

Jetson平台与CUDA生态概览

目标=Jetson硬件架构 · CUDA工具链 · cuDNN/TensorRT角色

搭建Jetson开发环境

目标=JetPack安装 · CUDA Samples验证 · Nsight Systems/Nsi…

CUDA编程模型在Jetson上的映射

目标=线程层次 · 内存层次 · SIMT执行

第一个Jetson CUDA算子

目标=向量加法实现 · 核函数编写 · 编译运行

Jetson内存系统与访问优化

目标=全局内存 · 共享内存 · 寄存器

Jetson内存系统

算子性能度量方法

目标=CUDA Events计时 · Nsight Compute指标解读 · 带宽与计算吞吐计算

算子性能度量方法CUDA

Jetson功耗与频率管理对算子的影响

目标=nvidia-smi · jetson_clocks · 功耗模式

矩阵乘法算子加速（上）

目标=朴素实现 · 分块共享内存优化 · 边界处理

矩阵乘法算子加速目标=朴素实现

矩阵乘法算子加速（下）

目标=寄存器分块 · 双缓冲 · warp级优化

矩阵乘法算子加速目标=寄存器分块

卷积算子加速基础

目标=直接卷积实现 · im2col+GEMM方法 · Jetson上不同策略的适用场景

卷积算子加速基础目标=直接卷积实…

卷积算子加速进阶

目标=Winograd算法 · FFT卷积 · 深度可分离卷积

卷积算子加速进阶Winograd

归约算子优化

目标=并行归约 · warp shuffle · 共享内存归约

归约算子优化目标=并行归约

扫描（前缀和）算子优化

目标=Hillis-Steele · Blelloch扫描 · 共享内存与warp级实现

排序算子加速

目标=双调排序 · 基数排序 · 并行归并

排序算子加速目标=双调排序

稀疏矩阵算子

目标=CSR/COO格式 · SpMV核函数 · 负载均衡

稀疏矩阵算子CSR/COO

深度学习算子手写实践

目标=ReLU · Sigmoid · Softmax

深度学习算子手写…ReLU

Jetson上的混合精度计算

目标=FP16/INT8 · Tensor Core编程 · 精度与速度权衡

Jetson上的混合精度计算

CUDA流与并发执行

目标=多流 · 异步拷贝 · 重叠计算与传输

CUDA并发执行

动态并行与协作组

目标=Jetson支持情况 · 网格同步 · 协作组在算子融合中的应用

动态并行协作组

算子融合与图优化

目标=手动融合 · CUDA Graph · TensorRT插件

算子融合图优化

Nsight Compute深度调优

目标=roofline分析 · warp stall原因 · 指令级优化

Nsight Systems系统级分析

目标=时间线解读 · CPU-GPU交互 · 算子间空隙

Jetson算子库加速

目标=cuBLAS · cuDNN · cuSPARSE

Jetson算子库加速

TensorRT自定义算子

目标=插件开发 · CUDA核函数集成 · Jetson上的部署与性能测试

TensorRT自定义算子

算子自动调优与搜索

目标=参数空间 · 启发式方法 · AutoTVM/Ansor在Jets…

算子自动调优搜索

边缘端算子部署与集成

目标=与PyTorch/Tensor… · ONNX导出 · Jetson推理服务封装

边缘端算子部署集成

多算子协同优化案例

目标=目标检测后处理 · 图像预处理 · 点云处理在Jetson上的加速

多算子协同优化案…目标=目标检测后…

Jetson集群与多设备算子扩展

目标=NCCL · 多GPU通信 · 分布式算子加速

算子鲁棒性与异常处理

目标=数值稳定性 · 边界条件 · 错误恢复

算子鲁棒性异常处理

目标=从零加速一个真实Jetson算… · 基线测量 · 迭代优化

综合实战Jetson