2. 医疗边缘硬件平台选型

医疗边缘推理部署的第一步,不是选模型,而是选“承载模型的硬件平台”。同一套推理算法,放在 Jetson、NPU、FPGA 或 MCU 上,其算力、功耗、接口能力、实时性、可维护性乃至合规路径都会发生根本变化。选型错误往往不会在实验室暴露,而是在临床现场以发热、掉帧、接口不兼容或注册审评受阻的形式出现。因此,本节从医疗场景的真实约束出发,建立四类典型边缘设备的选型判断框架。

一、四类平台的本质差异

Jetson 属于“带 GPU 的嵌入式计算平台”,典型如 Jetson Orin Nano、Orin NX、AGX Orin,算力从数十 TOPS 到两百 TOPS 以上,运行完整 Linux 与 CUDA 生态,适合多路视频、多模型级联的影像类推理。NPU 通常指集成在 SoC 中的神经网络加速单元,如瑞芯微 RK3588 的 6 TOPS NPU、地平线征程系列、华为昇腾 Atlas 200 等,算力中等、功耗低,适合单路或少量通道的固定模型推理。FPGA 以可编程逻辑实现定制数据通路,延迟可做到微秒级且确定性极强,适合对时序要求苛刻的信号处理与前端预处理。MCU 则是资源受限的微控制器,主频几十到几百 MHz、内存 KB 级,只能承载极轻量模型或传统信号算法,但功耗可低至毫瓦级,适合可穿戴、植入式或电池供电的监护设备。

理解差异的关键不是比较 TOPS 数字,而是看“算力密度、功耗预算、接口带宽、实时确定性、软件生态、合规证据”这六个维度如何共同约束选型。

医疗边缘四类平台选型坐标 横轴:算力与生态能力 → 纵轴:功耗与实时确定性约束 算力 / 生态 功耗 / 实时约束 MCU 算力:<1 GOPS 功耗:mW 级 接口:UART/SPI/ADC FPGA 算力:定制逻辑,等效中等 功耗:1~10 W 接口:LVDS/高速 ADC NPU SoC 算力:1~16 TOPS 功耗:2~15 W 接口:MIPI/USB/以太网 Jetson 算力:20~275 TOPS 功耗:7~60 W 接口:MIPI/PCIe/千兆网 典型医疗落点:MCU→可穿戴监护 / FPGA→超声前端 / NPU→内窥镜与眼底筛查 / Jetson→多路影像与术中导航

二、算力与功耗的匹配方法

选型时先估算模型的推理负载。以一张 512×512 的眼底图像分割模型为例,若模型约 2 GFLOPs,目标帧率 10 FPS,则所需算力约为 2×10=20 GFLOPS。考虑实际利用率通常只有理论峰值的 20%~40%,则平台有效算力需达到 50~100 GFLOPS。Jetson Orin Nano 的 GPU 约 20 TOPS(INT8),余量充足;RK3588 的 6 TOPS NPU 在 INT8 下也能满足,但需确认算子支持度;FPGA 需评估逻辑资源与 DSP 数量;MCU 则基本无法承载,只能改用轻量分类模型或传统算法。

功耗约束同样关键。便携超声、内窥镜手柄等设备整机功耗常被限制在 5~15 W,且不能有风扇噪声。此时 Jetson 需降频或选低功耗型号,NPU 方案更合适。而术中导航台车可接受 30~60 W,Jetson AGX Orin 的算力优势才能发挥。医疗设备还要求长时间稳定运行,需按“持续功耗”而非“峰值功耗”设计散热,结温余量建议保留 15℃ 以上。

三、接口与数据通路

医疗设备的接口决定了数据能否低延迟进入推理链路。影像类设备常用 MIPI CSI-2 接摄像头、LVDS 接超声前端、SDI/HDMI 接内窥镜,Jetson 与 NPU SoC 对 MIPI 支持较好;FPGA 擅长 LVDS 与高速 ADC 的原始信号采集;MCU 则以 SPI、I2C、UART、ADC 为主,适合传感器与低带宽生理信号。若设备需要与医院 PACS/HIS 交互,还需千兆以太网、Wi-Fi 6 或 5G 模块,并考虑 DICOM 传输的带宽与断网缓存策略。

四、医疗合规要求对选型的硬约束

医疗合规不是选型之后的“补材料”,而是选型阶段就要锁定的条件。首先,平台需满足 IEC 60601-1 医用电气安全与 IEC 60601-1-2 电磁兼容,工业级模块未必通过医疗级 EMC 测试,需确认模组或整机的认证状态。其次,若设备含无线功能,需符合医疗无线共存要求。第三,软件与固件需可追溯、可锁定版本,支持 IEC 62304 软件生命周期管理,因此平台应具备稳定的 BSP 长期维护与安全更新能力。第四,涉及患者数据的设备需满足数据加密、访问控制与审计要求,平台需支持安全启动、可信执行环境或磁盘加密。第五,若作为医疗器械注册,所选核心模块的供应商变更会触发重新验证,因此应优先选择供货周期长、文档齐全的平台。

注意:Jetson 等开发套件通常不具备医疗认证,只能用于原型验证;正式产品需选用通过医疗认证的载板与整机方案,并重新完成 EMC、安规与散热验证。

五、选型决策表(示例)

下表给出一份可直接参考的选型对照,参数为典型量级示例,实际以具体型号数据手册为准。

维度 MCU FPGA NPU SoC Jetson
典型算力 <1 GOPS 等效数 TOPS 1~16 TOPS 20~275 TOPS
功耗范围 mW 级 1~10 W 2~15 W 7~60 W
实时确定性 极高 极高 中高 中
软件生态 裸机/RTOS HDL/HLS 厂商 SDK CUDA/Linux
医疗典型场景 可穿戴监护 超声前端 内窥镜/眼底 多路影像/导航
合规关注点 低功耗安规 信号隔离 EMC/散热 EMC/散热/认证载板

六、实操建议

建议按以下顺序推进:先明确临床功能与帧率、分辨率、通道数,换算所需算力;再确定整机功耗与散热边界;然后核对接口是否匹配现有传感器与前端;最后逐条比对合规要求,确认平台是否具备医疗认证路径。原型阶段可用 Jetson 或 NPU 开发板快速验证算法,量产阶段再切换到医疗级核心板或定制载板。若算法对延迟极敏感(如超声波束合成、除颤决策),应优先评估 FPGA;若设备靠电池运行且只需简单分类,MCU 加轻量模型往往是最优解。

选型的本质是在算力、功耗、接口、实时性与合规之间找到满足临床需求的最小可行组合,而不是追求最高算力。把约束前置,才能避免后期返工。