2、开发环境搭建：Docker环境配置、交叉编译工具链安装、AI芯片驱动与Runtime库部署

说实话，做AI芯片适配这件事，最磨人的往往不是算法本身，而是环境搭建。我见过太多人卡在这一步，一卡就是好几天。今天咱们就把这事彻底捋清楚。

2.1 Docker环境配置——为什么我强烈推荐它？

你想想看，不同芯片厂商的驱动、Runtime库、工具链版本，动不动就互相打架。我早期做适配时，一台机器上装了CUDA 10、CUDA 11、CANN 5.0，结果每次切换都要改环境变量，烦得不行。

Docker的好处就是：隔离、可复现、一键部署。说白了，每个芯片平台一个容器，互不干扰。

2.1.1 安装Docker

这个比较简单，我直接给命令：

# Ubuntu/Debian
sudo apt-get update
sudo apt-get install docker.io

# 启动并设置开机自启
sudo systemctl start docker
sudo systemctl enable docker

# 验证安装
docker --version

嗯，这里要注意：安装完后记得把当前用户加入docker组，不然每次都要sudo：

sudo usermod -aG docker $USER
# 然后退出重新登录

2.1.2 拉取芯片厂商的基础镜像

我个人习惯是直接从官方仓库拉镜像，省去自己配环境的麻烦：

# 拉取CUDA镜像示例
docker pull nvidia/cuda:11.8.0-devel-ubuntu22.04

# 拉取昇腾镜像（需要先登录华为镜像仓库）
docker login ascendhub.huawei.com
docker pull ascendhub.huawei.com/public-ascendhub/ascend-infer:23.0.RC1-ubuntu22.04

2.1.3 编写Dockerfile——定制你的开发环境

光有基础镜像还不够，咱们得把交叉编译工具链、驱动、Runtime库都装进去。这是我常用的Dockerfile模板：

# 基于CUDA 11.8
FROM nvidia/cuda:11.8.0-devel-ubuntu22.04

# 安装基础工具
RUN apt-get update && apt-get install -y \
    build-essential \
    cmake \
    git \
    vim \
    wget \
    python3-pip \
    && rm -rf /var/lib/apt/lists/*

# 安装交叉编译工具链（以aarch64为例）
RUN apt-get install -y gcc-aarch64-linux-gnu g++-aarch64-linux-gnu

# 设置工作目录
WORKDIR /workspace

# 复制项目代码
COPY . /workspace

# 默认命令
CMD ["/bin/bash"]

2.2 交叉编译工具链安装

为什么要交叉编译？说白了，AI芯片的架构和你的开发机通常不一样。比如你的开发机是x86，但目标芯片是ARM或RISC-V，那你就得在x86上编译出能在ARM上跑的程序。

2.2.1 常见交叉编译工具链

2.2.2 验证工具链是否安装成功

# 检查ARM64交叉编译器
aarch64-linux-gnu-gcc --version

# 写一个简单的测试程序
cat < test.c
#include <stdio.h>
int main() {
    printf("Hello, AI Chip!\n");
    return 0;
}
EOF

# 交叉编译
aarch64-linux-gnu-gcc test.c -o test_arm64

# 查看生成的文件架构
file test_arm64
# 输出应该包含：ELF 64-bit LSB executable, ARM aarch64

2.3 AI芯片驱动与Runtime库部署

这部分是重头戏。不同芯片的驱动和Runtime库部署方式差异很大，我一个个说。

2.3.1 NVIDIA CUDA驱动与Runtime

CUDA的安装其实比较成熟了，但有几个细节要注意：

# 安装驱动（推荐使用runfile方式）
wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run
sudo sh cuda_11.8.0_520.61.05_linux.run

# 配置环境变量
echo 'export PATH=/usr/local/cuda-11.8/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

# 验证安装
nvcc --version
nvidia-smi

2.3.2 华为昇腾CANN部署

CANN的部署稍微复杂一些，因为它依赖HCCL（华为集合通信库）和ACL（Ascend Computing Language）。

# 下载CANN包（需要华为账号）
# 假设下载的是 Ascend-cann-toolkit_7.0.RC1_linux-aarch64.run

# 安装
chmod +x Ascend-cann-toolkit_7.0.RC1_linux-aarch64.run
./Ascend-cann-toolkit_7.0.RC1_linux-aarch64.run --install

# 设置环境变量
source /usr/local/Ascend/ascend-toolkit/set_env.sh

# 验证
npu-smi info
# 如果能看到NPU信息，说明驱动和Runtime都正常

2.3.3 寒武纪Neuware部署

寒武纪的Neuware SDK包含了驱动、Runtime库和开发工具。安装方式如下：

# 下载Neuware包（需要寒武纪开发者账号）
# 假设下载的是 neuware-1.10.0-ubuntu20.04-x86_64.tar.gz

# 解压
tar -xzf neuware-1.10.0-ubuntu20.04-x86_64.tar.gz
cd neuware-1.10.0

# 安装驱动
sudo ./install_driver.sh

# 安装Runtime库
sudo ./install_runtime.sh

# 设置环境变量
echo 'export NEUWARE_HOME=/usr/local/neuware' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=$NEUWARE_HOME/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

# 验证
cnmon
# 如果能显示MLU设备信息，说明安装成功

2.4 知识体系总览

为了让你对整个流程有个直观认识，我画了一张图：

2.5 验证环境是否搭建成功

环境搭完别急着跑大模型，先跑个简单的demo验证：

# CUDA验证
cat < cuda_test.cu
#include <cuda_runtime.h>
#include <stdio.h>
int main() {
    int deviceCount;
    cudaGetDeviceCount(&deviceCount);
    printf("Found %d CUDA devices\n", deviceCount);
    return 0;
}
EOF
nvcc cuda_test.cu -o cuda_test
./cuda_test

# CANN验证
cat < cann_test.cpp
#include <acl/acl.h>
int main() {
    aclInit(nullptr);
    aclrtSetDevice(0);
    printf("CANN initialized successfully\n");
    aclrtResetDevice(0);
    aclFinalize();
    return 0;
}
EOF
g++ cann_test.cpp -o cann_test -lascendcl
./cann_test

# Neuware验证
cat < neuware_test.c
#include <cnrt.h>
int main() {
    cnrtInit(0);
    printf("Neuware initialized\n");
    cnrtDestroy();
    return 0;
}
EOF
gcc neuware_test.c -o neuware_test -lcnrt
./neuware_test

嗯，今天就先到这。环境搭好了，后面咱们才能愉快地聊模型适配和性能优化。