3、环境准备：开发环境搭建、交叉编译工具链、目标平台（Android/iOS/嵌入式Linux）选择

ONNX Runtime Lite（下文简称 ORT Lite）的部署包裁剪并非单纯的“删文件”操作，而是一个涉及编译期宏控制、算子注册表精简、内存分配器替换以及目标平台 ABI 适配的系统工程。在动手裁剪之前，必须完成三类基础环境的准备：宿主开发环境（用于构建和裁剪）、交叉编译工具链（用于生成目标平台可执行文件）以及目标平台的运行时环境（用于验证裁剪结果）。本章将围绕这三条主线展开，帮助您建立一套可复现、可审计的环境基线。

3.1 宿主开发环境搭建

宿主环境是执行裁剪、编译和打包的“工作台”。对于 ORT Lite 项目，推荐使用 Linux（Ubuntu 22.04 LTS）作为主要宿主系统，因为其原生支持 GNU 工具链、Android NDK 和嵌入式 Linux 交叉编译。Windows 用户可通过 WSL2 获得接近原生的体验，但需注意文件系统性能损耗和路径长度限制。

3.1.1 核心依赖清单

安装完成后，建议创建独立的 Python 虚拟环境，避免系统级包冲突：

python3 -m venv ort_lite_env
source ort_lite_env/bin/activate
pip install onnx onnxruntime numpy flatbuffers

3.2 交叉编译工具链配置

交叉编译工具链决定了最终部署包的 ABI 兼容性和指令集优化程度。不同目标平台需要不同的工具链组合，但配置逻辑一致：指定编译器、sysroot、目标架构和 C/C++ 标准库。

3.2.1 Android 工具链（NDK）

Android 平台使用 NDK 提供的 clang 编译器。关键配置参数包括：

• API Level：建议最低 API 26（Android 8.0），覆盖绝大多数设备且支持 NNAPI 1.1+。
• ABI：arm64-v8a 为绝对主力，armeabi-v7a 仅用于低端设备兼容。
• STL：推荐 c++_shared，避免静态链接导致的代码膨胀。

# 设置 NDK 环境变量
export ANDROID_NDK_HOME=/opt/android-ndk-r26d
export PATH=$ANDROID_NDK_HOME/toolchains/llvm/prebuilt/linux-x86_64/bin:$PATH

# 配置 CMake 交叉编译
cmake -DCMAKE_TOOLCHAIN_FILE=$ANDROID_NDK_HOME/build/cmake/android.toolchain.cmake \
      -DANDROID_ABI=arm64-v8a \
      -DANDROID_PLATFORM=android-26 \
      -DANDROID_STL=c++_shared \
      -DCMAKE_BUILD_TYPE=MinSizeRel

3.2.2 iOS 工具链（Xcode）

iOS 平台必须使用 Xcode 自带的 clang，并配合 xcrun 工具链。由于 iOS 不允许动态库，ORT Lite 需要以静态库形式集成。关键参数：

• 架构：arm64（真机）、x86_64（模拟器，仅调试用）。
• 最低版本：iOS 12.0 是合理下限，覆盖 CoreML 2.0。
• Bitcode：建议关闭，减少裁剪后链接错误。

# 使用 xcrun 包装编译器
export CC="$(xcrun --find clang) -isysroot $(xcrun --sdk iphoneos --show-sdk-path) -arch arm64 -mios-version-min=12.0"
export CXX="$CC"

cmake -DCMAKE_SYSTEM_NAME=iOS \
      -DCMAKE_OSX_ARCHITECTURES=arm64 \
      -DCMAKE_OSX_DEPLOYMENT_TARGET=12.0 \
      -DCMAKE_BUILD_TYPE=MinSizeRel

3.2.3 嵌入式 Linux 工具链

嵌入式 Linux 平台（如 ARM Cortex-A 系列）通常使用 Linaro 或 Buildroot 提供的 GCC 工具链。需要特别注意 glibc 版本 和 硬浮点/软浮点 的选择：

# 以 aarch64 为例
export CROSS_COMPILE=aarch64-linux-gnu-
export CC=${CROSS_COMPILE}gcc
export CXX=${CROSS_COMPILE}g++
export SYSROOT=/opt/sysroots/aarch64-linux-gnu

cmake -DCMAKE_SYSTEM_NAME=Linux \
      -DCMAKE_SYSTEM_PROCESSOR=aarch64 \
      -DCMAKE_SYSROOT=$SYSROOT \
      -DCMAKE_C_COMPILER=$CC \
      -DCMAKE_CXX_COMPILER=$CXX \
      -DCMAKE_BUILD_TYPE=MinSizeRel

3.3 目标平台选择与适配策略

目标平台的选择直接影响裁剪策略：Android 和 iOS 对包体积和启动时间敏感，嵌入式 Linux 则更关注实时性和外设集成。下表对比了三个平台的典型约束：

3.3.1 平台适配的决策路径

1. 确认 CPU 架构：通过 uname -m（Linux）或 adb shell getprop ro.product.cpu.abi（Android）获取。
2. 确认浮点单元：嵌入式平台需检查 /proc/cpuinfo 中的 Features 是否包含 neon 或 vfpv4。
3. 确认系统库版本：Android 检查 API Level，iOS 检查 Deployment Target，Linux 检查 glibc 版本。
4. 选择执行提供程序：Android 优先 NNAPI，iOS 优先 CoreML，Linux 优先 XNNPACK（若支持 NEON）。

3.4 案例拆解：嵌入式 Linux 设备上的 ORT Lite 环境搭建

某工业视觉检测项目需要在 ARM Cortex-A53 四核处理器（1.5GHz）、512MB DDR3、128MB eMMC 的嵌入式设备上运行 ORT Lite 进行缺陷分类。模型为 MobileNetV2（输入 224×224×3，FP32），原始 ONNX 模型大小 14MB。

初始现象与目标： 设备 Flash 剩余空间仅 40MB，要求 ORT Lite 部署包（含模型）不超过 25MB，且单帧推理时间 ≤ 80ms。

关键输入参数：

• 目标平台：aarch64-linux-gnu，glibc 2.31，支持 NEON。
• 工具链：Linaro GCC 9.4，sysroot 从设备根文件系统导出。
• 模型算子：Conv、BatchNorm、Relu、GlobalAveragePool、Gemm。

分析判断过程： 首先确认设备 CPU 支持 NEON（cat /proc/cpuinfo | grep neon），决定启用 XNNPACK 作为后端。其次，模型算子集中在 CNN 基础算子，无需自定义算子注册。最后，由于内存仅 512MB，需关闭 ORT 的 arena 内存池以减少碎片。

实际操作步骤：

# 1. 导出 sysroot
rsync -avz root@device:/lib /opt/sysroots/aarch64-linux-gnu/
rsync -avz root@device:/usr/include /opt/sysroots/aarch64-linux-gnu/usr/

# 2. 配置 CMake 构建
cmake -DCMAKE_TOOLCHAIN_FILE=../cmake/toolchains/aarch64-linux-gnu.cmake \
      -DCMAKE_BUILD_TYPE=MinSizeRel \
      -DORT_LITE_ENABLE_XNNPACK=ON \
      -DORT_LITE_ENABLE_NNAPI=OFF \
      -DORT_LITE_ENABLE_COREML=OFF \
      -DORT_LITE_DISABLE_EXCEPTIONS=ON \
      -DORT_LITE_DISABLE_RTTI=ON \
      -DORT_LITE_ENABLE_TRAINING=OFF \
      -DORT_LITE_ENABLE_QUANTIZATION=ON

# 3. 构建并裁剪
make -j4
aarch64-linux-gnu-strip --strip-unneeded libonnxruntime_lite.so

# 4. 模型量化（FP32 → INT8）
python3 quantize_model.py --model mobilenetv2.onnx --output mobilenetv2_int8.onnx

结果对比：

风险与代价： INT8 量化导致模型精度从 98.2% 降至 97.1%，在可接受范围内。关闭异常处理（DISABLE_EXCEPTIONS）后，需在代码中增加错误码检查逻辑，避免空指针访问。

复盘经验： 环境准备阶段花费了 3 天时间，其中 80% 的时间用于 sysroot 导出和工具链验证。建议在项目启动第一天就完成 hello_world 交叉编译测试，确认工具链可用后再进入 ORT Lite 构建。

3.5 常见误区与总结