2. Jetson硬件平台概览
在Jetson上部署感知模型，第一步不是写代码，而是选对硬件平台。Jetson系列覆盖了从入门级到数据中心级的完整谱系，不同型号在GPU架构、算力、内存带宽、功耗区间上差异巨大。选型错误会导致两种典型后果：一是算力不足，模型无法达到实时帧率；二是算力过剩，成本与功耗浪费。本节从硬件规格出发，建立一套可操作的选型依据。
一、Jetson系列型号与核心规格对比
当前主流Jetson模组可分为三条产品线：Orin系列（旗舰）、Xavier系列（上一代高端）、Nano/TX2系列（入门与 legacy）。Orin系列采用NVIDIA Ampere GPU架构，Xavier采用Volta架构，Nano则基于Maxwell架构。架构代差直接决定了INT8/FP16张量核心的可用性与能效比。
| 型号 | GPU架构 | GPU核心/张量核心 | AI算力(INT8) | 内存 | 内存带宽 | 功耗模式 |
|---|---|---|---|---|---|---|
| Jetson AGX Orin 64GB | Ampere | 2048 CUDA / 64 Tensor | 275 TOPS | 64GB LPDDR5 | 204.8 GB/s | 15W–60W |
| Jetson Orin NX 16GB | Ampere | 1024 CUDA / 32 Tensor | 100 TOPS | 16GB LPDDR5 | 102.4 GB/s | 10W–25W |
| Jetson Orin Nano 8GB | Ampere | 1024 CUDA / 32 Tensor | 40 TOPS | 8GB LPDDR5 | 68 GB/s | 7W–15W |
| Jetson Xavier NX | Volta | 384 CUDA / 48 Tensor | 21 TOPS | 8GB LPDDR4x | 51.2 GB/s | 10W–20W |
| Jetson Nano 4GB | Maxwell | 128 CUDA | 0.5 TOPS(FP16) | 4GB LPDDR4 | 25.6 GB/s | 5W–10W |
从表中可见，Orin Nano 8GB的算力已是Xavier NX的近两倍，而功耗更低，这体现了Ampere架构的能效优势。对于新项目，除非有明确的legacy兼容需求，否则应优先选择Orin系列。
二、GPU架构与张量核心：算力从哪来
Jetson的AI算力主要来自GPU中的Tensor Core。Ampere架构（Orin系列）的Tensor Core支持结构化稀疏与INT8/FP16混合精度，在相同功耗下比Volta（Xavier）提升数倍。对于感知模型，关键指标不是CUDA核心数，而是Tensor Core的INT8吞吐。例如Orin NX 16GB的100 TOPS INT8算力，足以支撑YOLOv8s在1080p下达到30FPS以上。
需要特别注意：TOPS是理论峰值，实际推理帧率受内存带宽、CPU预处理、后处理开销共同制约。一个常见误区是只看TOPS选型，结果发现模型在GPU上很快，但CPU端的图像解码与NMS后处理成为瓶颈。
三、CPU、内存与功耗模式
Jetson的CPU通常为ARM Cortex-A78AE（Orin）或Carmel（Xavier），负责数据预处理、任务调度与后处理。内存为统一内存架构（CPU与GPU共享），这意味着模型权重、输入图像、中间特征图都占用同一块LPDDR。内存带宽是感知模型部署的隐形天花板：Orin Nano 8GB的68 GB/s带宽在运行大分辨率分割模型时可能成为瓶颈。
功耗模式通过nvpmodel管理，不同模式会限制CPU/GPU频率与核心数。例如AGX Orin的15W模式会关闭部分GPU核心，算力大幅下降。部署时应先确定功耗模式，再在该模式下做性能调优，否则调优结果无法复现。
# 查看当前功耗模式
sudo nvpmodel -q
# 切换至最大性能模式（AGX Orin为0号模式）
sudo nvpmodel -m 0
# 锁定GPU最高频率（需先开启jetson_clocks）
sudo jetson_clocks
# 查看GPU与内存实时占用
tegrastats --interval 1000四、选型依据与典型场景
- 多路高分辨率感知（自动驾驶/机器人）：AGX Orin 64GB，275 TOPS，204.8 GB/s带宽，支持多路CSI与PCIe扩展。
- 主流移动机器人/无人机：Orin NX 16GB，100 TOPS，10–25W，平衡算力与功耗。
- 轻量级视觉感知（智能相机/门禁）：Orin Nano 8GB，40 TOPS，7–15W，成本敏感场景首选。
- Legacy项目维护：Xavier NX或Nano，仅在已有代码库无法迁移时选用。
tegrastats中的GR3D占用率、内存带宽与端到端延迟。实测数据比规格表更有说服力。总结来说，Jetson选型是一个多约束优化问题：算力决定上限，内存带宽决定实际吞吐，功耗模式决定可用算力，接口决定扩展能力。先明确感知任务的帧率、分辨率与模型规模，再对照规格表与实测数据，才能选出最合适的平台。