1. Jetson边缘AI产品全景与课程任务定义
边缘AI的本质，是把推理能力从云端机房搬到产生数据的地方。Jetson系列正是NVIDIA为这一场景打造的嵌入式计算平台：它把GPU、CPU、内存、编解码器、ISP与高速接口集成在一块只有信用卡大小的模组上，让摄像头、机器人、无人机、工业质检设备能够在本地完成实时推理，而不必把原始视频流回传云端。理解Jetson产品全景，是后续所有系统开发工作的起点——选错模组，后面再优秀的模型和代码都会被算力、功耗或接口卡住。
一、Jetson产品家族的两条主线：模组与开发套件
Jetson产品可以分成两类形态。第一类是模组（Module），例如Jetson Nano、TX2、Xavier NX、Orin Nano、Orin NX、AGX Orin，它们本身没有标准外设接口，需要通过260针或699针的SO-DIMM/板对板连接器插到载板（Carrier Board）上，由载板提供电源、USB、MIPI CSI、千兆网、PCIe、显示等接口。模组形态适合量产产品，因为你可以按产品结构自行设计载板，控制尺寸、散热与成本。
第二类是开发套件（Developer Kit），例如Jetson Orin Nano Developer Kit、AGX Orin Developer Kit。它等于“官方载板 + 模组 + 散热 + 电源 + 预装JetPack”，开箱即可用，接口齐全，适合原型验证、算法调试和课程教学。开发套件与对应模组的算力一致，但载板接口是固定的，量产时通常要替换为自研载板。
选型时最需要关注的不是“哪个最强”，而是四个约束的平衡：算力（TOPS/INT8）、功耗（5W～60W）、内存容量与带宽、接口数量。例如Orin Nano 8GB提供约40 TOPS INT8算力、7W～15W功耗档，适合单路到四路摄像头的轻量视觉产品；Orin NX 16GB约100 TOPS，适合多路视频分析与小型机器人；AGX Orin 64GB可达275 TOPS，面向多传感器融合的自动驾驶域控或高端工业设备。内存尤其关键：一个YOLOv8s模型加两路1080p解码缓冲，在8GB模组上就可能逼近上限，因此内存容量往往比峰值算力更早成为瓶颈。
二、边缘AI产品的典型形态
Jetson不会单独出现在产品里，它总是嵌在某种设备形态中。课程中我们归纳四类典型形态，它们对模组的要求差异很大。
- 智能视觉终端：如人脸门禁、客流统计盒、缺陷检测相机。特点是单机1～4路摄像头，需要MIPI CSI或RTSP输入，推理以检测/分类为主，功耗通常限制在15W以内，常采用Orin Nano或Xavier NX。
- 移动机器人/AMR：需要多路摄像头、激光雷达、IMU融合，对实时性和功耗敏感，常用Orin NX，配合ROS 2与TensorRT部署SLAM和避障模型。
- 工业边缘服务器：多路视频汇聚分析，要求PCIe扩展、多网口、宽温运行，AGX Orin或Orin NX更合适，常配NVMe与万兆网。
- 无人机/便携设备：对重量和功耗极敏感，往往选择Orin Nano低功耗档，甚至Jetson Nano，模型必须量化到INT8并做剪枝。
这四类形态决定了载板设计、散热方案和软件栈的差异。例如视觉终端可能只需要被动散热，而AGX Orin工业服务器必须考虑风扇与风道；机器人需要实时内核与CAN接口，而视觉盒子更关注RTSP解码吞吐。
三、课程实战项目需求分析与技术指标拆解
本课程以一个贯穿始终的实战项目为载体：“多路视频智能分析边缘盒”。它的业务需求是：接入4路1080p@30fps网络摄像头，实时检测人员与安全帽，输出结构化事件到本地Web界面，整机功耗不超过25W，端到端延迟低于200ms，支持7×24小时运行。
把业务需求翻译成技术指标，是边缘AI工程师最核心的能力之一。我们按下面的方式拆解：
| 业务需求 | 技术指标 | 判断依据 |
|---|---|---|
| 4路1080p@30fps接入 | 解码能力 ≥ 4×1080p30 H.264/H.265 | 查模组NVDEC规格，Orin Nano支持多路解码 |
| 实时检测人员与安全帽 | 单帧推理 ≤ 30ms，mAP@0.5 ≥ 0.75 | YOLOv8s INT8在Orin Nano约15～25ms |
| 端到端延迟 < 200ms | 解码+预处理+推理+后处理+编码 ≤ 200ms | 各阶段耗时累加，需实测 |
| 整机功耗 ≤ 25W | 模组功耗档 ≤ 15W，外设 ≤ 10W | nvpmodel设置与功耗实测 |
| 7×24小时运行 | 结温 < 85℃，无内存泄漏 | tegrastats监控与长时间压测 |
以推理指标为例，假设我们选择YOLOv8s，输入640×640，在Orin Nano 15W档下用TensorRT INT8部署，单帧推理约18ms，4路轮询时每路平均间隔约72ms，仍能满足30fps下的实时性要求（每路每33ms一帧，4路共需约4×18=72ms推理时间，接近但未超过一帧周期）。如果换成YOLOv8m，单帧约35ms，4路就需要140ms，超过33ms周期，必须降帧率或换Orin NX。这就是指标拆解对选型的直接约束。
四、从需求到选型的决策路径
实际选型时，建议按以下顺序推进：先确定摄像头路数与分辨率，算出解码与推理总算力需求；再确定功耗与散热边界，排除超功耗模组；然后核对内存容量，确保模型、缓冲与系统占用后仍有20%余量；最后核对接口数量，确认CSI/PCIe/USB/网口是否够用。四步都通过，模组才算选定。
例如上述项目：4路1080p30解码 + YOLOv8s INT8推理，总算力需求约40 TOPS以内，功耗需≤15W，内存需≥8GB，接口需4路网络或CSI。Orin Nano 8GB开发套件满足前三项，但只有2路CSI，若用网络摄像头则通过千兆网接入4路RTSP，接口也满足。因此Orin Nano 8GB是本项目的合理起点；若后续要增加路数或换更大模型，再升级到Orin NX 16GB。
本章建立了三个基础认知：Jetson有模组与开发套件两种形态，选型受算力、功耗、内存、接口四维约束；边缘AI产品有视觉终端、机器人、工业服务器、便携设备四类典型形态；实战项目的需求必须翻译成可测量、可验证的技术指标，才能指导模组选择与后续部署。接下来的章节将围绕这个项目，逐步完成环境搭建、模型部署、性能优化与系统集成。