第二章：环境规划与准备——硬件选型、操作系统与存储网络
大家好，我是你们的NPU推理部署讲师。今天咱们聊聊环境规划。
说实话，很多同学一上来就急着装驱动、跑模型，结果发现板子带不动，或者系统不兼容，折腾半天白费功夫。我当年第一次部署NPU时，就吃过这个亏——买了个开发板，结果Ubuntu版本不对，驱动死活装不上，最后重刷系统才搞定。
所以，这一章咱们把地基打牢。硬件怎么选？系统用哪个？网络和存储怎么规划？一步步来。
2.1 硬件选型建议：开发板还是服务器？
先问自己一个问题：你的应用场景是什么？
- 边缘端推理：比如智能摄像头、工业检测、机器人。这类场景功耗敏感，算力要求适中。我建议选开发板，比如NVIDIA Jetson系列（Orin NX/AGX）、瑞芯微RK3588、算能SE5等。
- 云端/数据中心推理：比如大模型服务、视频分析集群。这类场景需要高吞吐、低延迟。我建议选服务器，插上PCIe加速卡，比如寒武纪MLU370、华为昇腾310/910、英伟达T4/A100。
我个人习惯：做原型验证时用开发板，成本低、上手快。一旦算法稳定，再迁移到服务器上做高并发部署。你想想看，开发板几百到几千块，服务器动辄几万，别一开始就上重武器。
这里有个避坑指南：我曾经选了一块算力很猛的开发板，结果发现散热跟不上，跑模型10分钟就降频。所以，选型时一定要看散热方案——被动散热还是主动风扇？环境温度多少？
| 类型 | 代表产品 | 算力（TOPS） | 功耗（W） | 适用场景 |
|---|---|---|---|---|
| 开发板 | Jetson Orin NX | 70-100 | 15-25 | 边缘AI、机器人 |
| 开发板 | 瑞芯微RK3588 | 6 | 10 | 轻量级视觉、NPU入门 |
| 服务器卡 | 昇腾310 | 16 | 75 | 云端推理、视频分析 |
| 服务器卡 | 寒武纪MLU370 | 256 | 150 | 大模型、科学计算 |
小提示：如果你只是学习NPU推理流程，买一块二手Jetson Nano或者RK3588开发板就够了。几百块钱，跑通一个YOLO模型，成就感满满。
2.2 操作系统选择：Ubuntu 20.04还是22.04？
这个问题我经常被问到。我的回答是：看NPU厂商的SDK支持情况。
目前主流NPU厂商（华为、寒武纪、瑞芯微、NVIDIA）对Ubuntu 20.04的支持最成熟。Ubuntu 22.04虽然新，但部分驱动和工具链可能还没适配。我在项目中遇到过：用22.04装某家NPU的驱动，编译内核模块时报错，折腾了两天，最后换回20.04才搞定。
所以，我的建议是：
- 首选Ubuntu 20.04 LTS（内核5.4或5.15）。稳定、兼容性好，社区资源多。
- 如果必须用22.04（比如你的应用依赖新内核特性），先查一下NPU厂商的官方文档，确认支持再动手。
- 桌面版 vs 服务器版：开发阶段用桌面版，方便调试。部署阶段用服务器版，减少资源占用。
注意：不要用Ubuntu 18.04了，很多新SDK已经停止支持。也不要尝试Windows——NPU推理生态基本是Linux的天下。
嗯，这里还要提一句：系统盘分区。我建议至少分50GB给根目录，因为NPU SDK、模型文件、依赖库加起来很容易超过20GB。另外，交换分区建议设为内存大小的2倍，尤其是开发板内存小（4GB/8GB），跑大模型时容易OOM。
2.3 网络与存储规划
网络和存储看似不起眼，但往往是性能瓶颈。我见过有人把模型存在SD卡上，加载一个1GB的模型花了5分钟——这哪是推理，简直是考验耐心。
2.3.1 网络规划
- 开发板场景：通常用Wi-Fi或以太网。我建议用有线连接，稳定、延迟低。如果必须用Wi-Fi，确保5GHz频段，2.4GHz干扰太多。
- 服务器场景：至少千兆网络。如果多卡并行推理，建议万兆网络，否则数据传输会成为瓶颈。
- 远程访问：配置好SSH和VNC。我个人习惯用SSH + tmux，这样即使断网，训练任务也不会中断。
2.3.2 存储规划
存储分三块：
- 系统盘：SSD，至少128GB。装系统、SDK、工具链。
- 数据盘：HDD或大容量SSD。存数据集、模型文件、日志。建议单独挂载，方便备份。
- 缓存盘：如果频繁读写模型，可以用tmpfs（内存盘），速度飞快。但注意断电丢失。
我曾经在Jetson上犯过一个低级错误：把模型文件放在TF卡里，结果推理速度比预期慢了3倍。后来换成NVMe SSD，加载时间从30秒降到2秒。所以，存储介质直接影响推理体验。
最后，画一张图总结本章的知识体系：
好了，这一章就到这里。硬件选型、系统选择、网络存储，这三件事看似基础，但决定了后续开发是否顺利。别急着往下走，先把环境规划好。
最后一句经验之谈：如果你在选型时犹豫不决，就选社区最活跃的方案。比如Jetson Orin + Ubuntu 20.04，遇到问题一搜就有答案。小众方案虽然参数好看，但踩坑了没人帮。
想要更多资料，联系可可