4、开发环境搭建：安装JetPack SDK、配置CUDA、cuDNN、TensorRT以及Python/C++开发环境

Jetson平台的开发环境搭建与普通x86服务器有显著差异。由于Jetson模块采用ARM架构（aarch64）并集成GPU、DLA（深度学习加速器）等异构计算单元，其软件栈必须通过NVIDIA官方提供的JetPack SDK进行统一管理。JetPack并非单一工具，而是一个聚合了Linux内核、根文件系统、CUDA、cuDNN、TensorRT、多媒体API（V4L2、GStreamer）以及编译工具链的完整发行包。正确搭建该环境，是后续实现GPU加速图像预处理（Resize、Normalize、格式转换）的前提。本章将围绕JetPack的安装策略、核心组件的配置验证以及Python/C++双语言开发环境的构建展开，确保你获得一个稳定、可复现的底层平台。

上图展示了Jetson开发环境的整体逻辑：宿主机通过SDK Manager将JetPack刷写到设备，设备端运行L4T内核与NVIDIA加速库，上层Python/C++代码通过统一API调用底层能力。值得注意的是，CUDA、cuDNN、TensorRT的版本必须与JetPack版本严格匹配，混用版本会导致运行时链接错误或性能异常。下面我们将分步讲解安装与配置细节。

4.1 JetPack SDK安装策略与刷机流程

核心原理：JetPack SDK本质上是一个元包（meta-package），它依赖NVIDIA的Linux for Tegra（L4T）发行版。SDK Manager工具负责从NVIDIA服务器拉取对应版本的BSP（Board Support Package）、根文件系统、CUDA Toolkit、cuDNN、TensorRT等组件，并通过USB或网络写入Jetson模块的eMMC或NVMe存储。安装方式分为两种：SDK Manager图形化刷机（适用于Orin、Xavier、TX2系列）和命令行刷机（适用于批量生产或服务器环境）。

操作流程：

1. 准备宿主机：使用Ubuntu 20.04或22.04 x86_64系统，安装Python 3.8+、依赖库（libusb-1.0-0、sshpass等），并注册NVIDIA开发者账号。
2. 进入恢复模式：将Jetson设备通过USB-C线连接宿主机，按住Recovery键再按Reset键，进入USB烧录模式。使用lsusb命令确认设备ID（如0955:7e19）。
3. 运行SDK Manager：选择目标硬件型号（如AGX Orin 64GB），勾选需要的组件（建议全选），设置存储路径。SDK Manager会自动下载约10-20GB数据并执行烧录。
4. 首次启动配置：烧录完成后，设备自动重启，进入Ubuntu初始化向导（设置用户名、密码、时区）。建议启用SSH服务以便远程开发。

4.2 CUDA与cuDNN的配置验证

核心原理：JetPack安装的CUDA位于/usr/local/cuda（软链接指向具体版本目录），包含nvcc编译器、运行时库（libcudart）和CUDA驱动。cuDNN则作为CUDA的深度学习原语库，提供卷积、池化、归一化等高性能实现。两者均需通过环境变量和动态链接器配置才能被开发工具找到。

配置步骤：

# 1. 设置环境变量（添加到 ~/.bashrc）
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:/usr/local/cuda/extras/CUPTI/lib64:$LD_LIBRARY_PATH
export CUDA_HOME=/usr/local/cuda

# 2. 验证CUDA编译器
nvcc --version   # 应输出Cuda compilation tools, release 11.4, V11.4.152

# 3. 验证cuDNN版本
cat /usr/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
# 或使用 dpkg -l | grep cudnn

# 4. 编译并运行CUDA示例
cd /usr/local/cuda/samples/1_Utilities/deviceQuery
sudo make
./deviceQuery   # 应显示Jetson GPU型号及计算能力（如8.7）

案例拆解：某项目在Jetson Orin NX上运行YOLOv8预处理时，出现libcudnn.so.8: cannot open shared object file错误。排查发现用户手动安装了Anaconda的CUDA库，覆盖了系统路径。解决方法是删除Anaconda的lib目录中的cudnn软链接，并确保LD_LIBRARY_PATH中系统路径优先。通过ldd命令检查可执行文件的动态库依赖，确认所有NVIDIA库均指向/usr/lib/aarch64-linux-gnu或/usr/local/cuda/lib64。

4.3 TensorRT的安装与Python绑定

核心原理：TensorRT是NVIDIA的推理优化引擎，支持FP16、INT8量化，并能将训练好的模型（ONNX、PyTorch）转换为序列化引擎（.engine）。JetPack自带的TensorRT包含C++库（libnvinfer.so）和Python包（tensorrt）。Python绑定通过pybind11实现，允许直接调用C++高性能内核。

安装与验证：

# 检查TensorRT Python包
python3 -c "import tensorrt as trt; print(trt.__version__)"  # 应输出8.5.2.2

# 若未安装，使用pip安装（注意版本需与JetPack匹配）
pip3 install nvidia-tensorrt==8.5.2.2

# 验证C++库
dpkg -l | grep nvinfer
# 编译一个简单示例
g++ -o test test.cpp -lnvinfer -lnvparsers -lnvinfer_plugin -lcudart

4.4 Python与C++开发环境配置

核心原理：Jetson默认自带Python 3.8（JetPack 5.x）或3.10（JetPack 6.x）。由于系统Python受L4T包管理保护，强烈建议使用virtualenv或conda创建独立环境，避免依赖冲突。C++开发则需配置CMake工具链，并链接NVIDIA库。

Python环境搭建：

# 安装pip和虚拟环境
sudo apt update
sudo apt install python3-pip python3-venv

# 创建项目虚拟环境
python3 -m venv ~/jetson_env
source ~/jetson_env/bin/activate

# 安装常用库（注意使用aarch64 wheel）
pip install numpy opencv-python-headless pycuda torch torchvision
# 验证CUDA可用性
python3 -c "import torch; print(torch.cuda.is_available())"  # 应输出True

C++环境配置（CMakeLists.txt示例）：

cmake_minimum_required(VERSION 3.10)
project(image_preprocess)
set(CMAKE_CXX_STANDARD 17)
find_package(CUDA REQUIRED)
find_package(OpenCV REQUIRED)
include_directories(${CUDA_INCLUDE_DIRS} /usr/include/aarch64-linux-gnu)
add_executable(preprocess main.cpp)
target_link_libraries(preprocess ${CUDA_LIBRARIES} ${OpenCV_LIBS} nvinfer nvparsers)

案例拆解：某自动驾驶项目需要同时使用Python快速原型和C++部署。团队在Jetson AGX Orin上配置了双环境：Python环境用于数据采集和模型验证，C++环境用于最终的车载部署。关键约束是两者必须共享同一份TensorRT引擎文件。通过将.engine文件序列化到磁盘，Python端使用tensorrt.Runtime.deserialize_cuda_engine()加载，C++端使用nvRuntime->deserializeCudaEngine()加载，实现了无缝切换。实测发现，Python端首次加载引擎耗时约2秒（含反序列化和上下文创建），C++端仅需0.8秒，因此在高频重启场景下推荐C++。

4.5 常见误区与性能验证

误区一：盲目升级CUDA版本。Jetson的驱动与CUDA版本绑定，升级CUDA必须同时刷新L4T内核，否则会导致GPU无法识别。建议始终使用JetPack默认版本。

误区二：忽略交换空间配置。Jetson统一内存架构（UMA）下，GPU显存与系统内存共享。当运行大模型时，内存不足会触发OOM Killer。建议使用zram或NVMe交换分区，并监控tegrastats输出。

误区三：Python与C++混用OpenCV版本。JetPack自带的OpenCV（4.5.4）基于CUDA编译，支持cv2.cuda模块。若通过pip安装opencv-python，会覆盖系统版本并失去GPU加速。应使用--no-cache-dir强制安装系统版本，或使用cv2.cuda接口。

性能验证清单：

• 运行tegrastats观察CPU/GPU频率是否达到标称值（如Orin的GPU最高1.3GHz）。
• 使用nvprof或nsys分析CUDA kernel耗时，确认Resize操作是否调用cv::cuda::resize。
• 对比CPU与GPU的Normalize耗时：在1080p图像上，GPU版本应快5-10倍。
• 检查TensorRT引擎的层融合情况：trtexec --dumpProfile可输出每层耗时，若发现大量reformat层，说明输入格式与模型要求不匹配。