3. JetPack与软件栈
在 Jetson 平台上做感知模型部署，第一步不是写推理代码，而是把“地基”打对。这个地基就是 JetPack。很多初学者把 JetPack 理解成“一个驱动包”，结果在安装 PyTorch、编译 TensorRT 引擎或调用摄像头时反复踩坑。实际上，JetPack 是一套经过 NVIDIA 验证、彼此版本锁定的软件栈集合，它把操作系统、驱动、计算库和推理运行时打包在一起，保证 CUDA、cuDNN、TensorRT 之间不会出现版本错配。
一、JetPack SDK 的组成与层级关系
JetPack 的组成可以按“从底到顶”的层级来理解。最底层是 L4T（Linux for Tegra），它是 NVIDIA 为 Tegra 系列 SoC 定制的 Linux 发行版，包含 Bootloader、内核、设备树、根文件系统以及 GPU 驱动。L4T 决定了你的 Jetson 能识别哪些硬件接口，比如 CSI 摄像头、PCIe 设备、USB 和显示输出。
在 L4T 之上是 CUDA Toolkit，它提供 GPU 并行计算能力，是 cuDNN 和 TensorRT 的运行基础。再往上是 cuDNN，即深度神经网络加速库，封装了卷积、池化、归一化、激活等常用算子，让上层框架不必手写 GPU 内核。最上层是 TensorRT，它是面向推理的优化器和运行时，负责图层融合、精度校准、内核自动调优和内存复用，是 Jetson 上实现实时推理的关键组件。
此外，JetPack 还包含 TensorRT、DeepStream、VPI、OpenCV（带 CUDA 加速） 以及 Nsight 系列调试工具。这些组件共同构成从数据采集、图像处理到模型推理、结果输出的完整链路。
二、版本对应关系：为什么不能随意混装
JetPack 的每个版本都对应固定的 L4T、CUDA、cuDNN 和 TensorRT 版本。例如 JetPack 5.x 对应 L4T 35.x、CUDA 11.4、cuDNN 8.6、TensorRT 8.5；JetPack 6.x 对应 L4T 36.x、CUDA 12.x、cuDNN 9.x、TensorRT 10.x。如果手动升级其中某一个组件，很容易出现“TensorRT 能加载但 cuDNN 符号缺失”或“PyTorch 编译时找不到 CUDA 头文件”的问题。
| JetPack 版本 | L4T | CUDA | cuDNN | TensorRT | 典型适用 |
|---|---|---|---|---|---|
| JetPack 5.1.x | 35.3+ | 11.4 | 8.6 | 8.5 | Xavier / Orin 稳定生产 |
| JetPack 6.0 | 36.3 | 12.2 | 9.0 | 10.0 | Orin 新特性验证 |
| JetPack 6.1 | 36.4 | 12.6 | 9.3 | 10.3 | Orin Nano / NX 最新支持 |
三、系统烧录与环境配置流程
拿到 Jetson 开发板后，通常需要先烧录系统。推荐使用 NVIDIA SDK Manager，它可以在 Ubuntu 主机上自动下载并刷写 L4T、JetPack 组件和根文件系统。如果使用量产或离线场景，也可以使用 flash.sh 脚本配合 BSP 包完成烧录。
# 查看当前 L4T 版本
cat /etc/nv_tegra_release
# 查看 CUDA 版本
nvcc --version
# 查看 TensorRT 版本
dpkg -l | grep nvinfer
# 查看 cuDNN 版本
dpkg -l | grep cudnn
# 查看 Jetson 型号与功耗模式
sudo jetson_release
sudo nvpmodel -q
烧录完成后，环境配置的关键是“三件事”：第一，确认 CUDA 路径已加入环境变量；第二，确认 Python 绑定与系统 Python 版本匹配；第三，确认 TensorRT 的 Python 包可导入。很多部署失败并不是模型问题，而是环境变量或 Python 路径没有对齐。
# 在 ~/.bashrc 中加入 CUDA 路径
export CUDA_HOME=/usr/local/cuda
export PATH=$CUDA_HOME/bin:$PATH
export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH
# 验证 TensorRT Python 绑定
python3 -c "import tensorrt as trt; print(trt.__version__)"
# 验证 PyTorch 是否识别 CUDA
python3 -c "import torch; print(torch.cuda.is_available())"
四、案例场景：YOLO 感知部署的环境准备
假设我们要在 Orin NX 上部署 YOLOv8 实时检测。第一步是确认 JetPack 版本为 5.1.x 或 6.x，并检查 TensorRT 是否支持当前模型算子。第二步是安装与 JetPack 匹配的 PyTorch wheel，不能直接用 pip 安装官方通用版，否则会出现 CUDA 架构不匹配。第三步是导出 ONNX，再用 trtexec 或 TensorRT Python API 构建 FP16/INT8 引擎。第四步是编写推理脚本，调用 CUDA 预处理和 TensorRT 执行上下文。
这个过程中，L4T 负责摄像头和显示驱动，CUDA 负责图像预处理中的并行计算，cuDNN 为模型中的卷积层提供加速，TensorRT 负责最终推理优化。四者缺一不可，且必须版本一致。
五、常见误区与复盘
- 误区一：把 JetPack 当成普通 apt 包随意升级。 升级单个组件可能破坏版本锁定，导致推理引擎构建失败。
- 误区二：忽略 L4T 与内核模块的对应关系。 更换摄像头或 PCIe 设备时，若设备树不匹配，驱动无法加载。
- 误区三：用通用 PyTorch 替代 Jetson 专用 wheel。 通用版通常不包含 aarch64 的 CUDA 支持，
torch.cuda.is_available()会返回 False。 - 误区四：只关注 TensorRT 版本，忽略 cuDNN。 某些算子融合依赖 cuDNN 实现，版本错配会在构建引擎时报符号错误。
总结来说，JetPack 是 Jetson 感知部署的“版本基线”，L4T 是操作系统与驱动底座，CUDA 提供并行计算能力，cuDNN 加速神经网络算子，TensorRT 完成推理优化。系统烧录与环境配置的核心不是“装得多”，而是“版本对、路径对、绑定对”。把这套软件栈关系理清，后续的模型转换、引擎构建和实时优化才有稳定可靠的基础。