1. Jetson平台与视频分析终端概览
NVIDIA Jetson 并不是单一型号的芯片，而是一整条面向嵌入式与边缘计算的模组与开发套件产品线。它的共同点是：在十几瓦到几十瓦的功耗范围内，集成 ARM CPU、NVIDIA GPU、内存控制器、视频编解码单元（NVENC/NVDEC）以及各类高速接口，从而把原本需要服务器级显卡才能完成的深度学习推理，压缩到一块手掌大小的板卡上。理解这条产品线的规格差异，是后续做视频分析终端选型与部署的前提。
一、Jetson 系列硬件规格与定位
从架构代际看，Jetson 大致可分为 Nano、TX、Xavier、Orin 四代。Nano 系列（如 Jetson Nano 4GB）算力约 0.5 TFLOPS（FP16），功耗 5～10W，适合入门教学与单路轻量推理；TX2 提供约 1.3 TFLOPS，具备更强的编解码能力；Xavier NX 与 AGX Xavier 引入 Volta/Turing 架构与 Tensor Core，算力跃升至 6～32 TOPS（INT8），可支撑多路 1080p 视频并行分析；Orin 系列（Orin Nano、Orin NX、AGX Orin）采用 Ampere 架构，算力覆盖 20～275 TOPS（INT8），是目前视频分析终端的主流选择。
选型时不能只看 TOPS。视频分析终端真正的瓶颈往往在解码与内存带宽：例如 AGX Orin 支持多路 4K 解码，而 Orin Nano 在同时解码多路高分辨率视频时，GPU 算力尚未跑满，NVDEC 与内存带宽已先成为限制。因此评估一块 Jetson 是否够用，需要同时看三项指标——INT8 算力、NVDEC 解码路数、LPDDR 带宽。下表给出典型型号的参考规格（数据为公开规格的近似整理，用于选型对比，非实测值）。
| 型号 | GPU 架构 | INT8 算力 | 内存 | 典型功耗 | 适用场景 |
|---|---|---|---|---|---|
| Jetson Nano 4GB | Maxwell | ~0.5 TFLOPS FP16 | 4GB LPDDR4 | 5–10W | 单路轻量检测、教学 |
| Xavier NX 8GB | Volta | ~21 TOPS | 8GB LPDDR4x | 10–15W | 2–4 路 1080p 分析 |
| AGX Xavier | Volta | ~32 TOPS | 32GB LPDDR4x | 10–30W | 多路高清、机器人 |
| Orin Nano 8GB | Ampere | ~40 TOPS | 8GB LPDDR5 | 7–15W | 边缘盒子、2–4 路 |
| AGX Orin 64GB | Ampere | ~275 TOPS | 64GB LPDDR5 | 15–60W | 8 路以上、复杂模型 |
二、典型视频分析终端形态
把 Jetson 模组装进外壳、配上接口，就形成了面向不同场景的终端形态。常见有四类：
- 边缘 AI 盒子：金属无风扇或小风扇外壳，提供 4～8 路 PoE 网口或 HDMI 输入，部署在机房或弱电间，接入既有 IP 摄像机流，做集中式分析。
- 智能摄像机 / 球机：Jetson 直接嵌入相机内部，前端完成检测与跟踪，只上传结构化结果，节省带宽。
- 车载 / 机器人终端：宽温、抗振设计，多路 GMSL 或 MIPI 摄像头输入，用于自动驾驶辅助、巡检机器人。
- 便携式分析仪：电池供电，带触摸屏，用于现场取证、临时布控。
这四类形态的差异，本质上是输入接口、散热方式与部署位置的差异，而软件栈基本一致，都基于 JetPack SDK。因此课程中掌握一套开发流程，可以迁移到多种终端形态。
三、边缘 AI 部署优势
相比把视频流传回云端分析，边缘部署的核心优势有三点。第一是延迟：本地推理省去网络往返，端到端延迟可从数百毫秒降到几十毫秒，满足实时告警需求。第二是带宽与成本：一路 1080p@25fps 的 H.264 码流约 2～4 Mbps，若 16 路全部上云，仅上行带宽就是持续成本；边缘侧只上传事件与结构化数据，带宽可降低一个数量级。第三是隐私与可靠性：原始视频不出本地，且断网时仍能独立工作。代价是单点算力有限、模型需要量化压缩、运维分散，这正是本课程要解决的技术问题。
四、课程实战项目与开发环境
本课程围绕一个贯穿始终的实战项目展开：基于 Jetson 的多路视频智能分析终端。项目从环境搭建开始，逐步完成视频接入与解码、检测模型部署与加速、多路流水线调度、结果上报与可视化，最终形成一个可运行、可评估的终端原型。每一章都会为这个项目增加一个可验证的能力模块。
开发环境搭建的第一步是刷写系统。以 Orin Nano 为例，推荐使用 NVIDIA SDK Manager 在 Ubuntu 主机上完成 JetPack 6.x 的烧录，或使用预装镜像的 NVMe 启动。刷写完成后，通过以下命令确认关键组件版本：
# 查看 L4T / JetPack 版本
cat /etc/nv_tegra_release
# 查看 CUDA 与 cuDNN
nvcc --version
dpkg -l | grep cudnn
# 查看 TensorRT 版本
dpkg -l | grep tensorrt
# 查看解码能力与电源模式
sudo nvpmodel -q
tegrastats --interval 1000其中 tegrastats 是后续调优最常用的工具，它会周期性输出 CPU、GPU、内存、NVDEC/NVENC 占用率与功耗。判断终端是否“跑得动”，不应只看 GPU 利用率，还要观察 NVDEC 是否接近满载、内存是否频繁触发交换。建议在项目初期就固定电源模式（如 sudo nvpmodel -m 0 开启最大性能）并记录基线数据，作为后续优化的对照。
jetson_release 或 jtop 确认 JetPack、CUDA、TensorRT、OpenCV 的版本组合是否匹配。TensorRT 与 CUDA 版本不匹配是后续模型部署失败最常见的原因之一。下图把本节的核心关系整理为一张结构图：左侧是 Jetson 硬件规格的三个关键维度，中间是它们如何组合成不同终端形态，右侧是边缘部署带来的收益与代价，底部则对应课程项目的推进路径。它可以帮助你在选型与后续章节之间建立整体坐标。