📚 课程目录第4章容器技术基础

4、容器技术基础：Docker核心概念、镜像与容器、Dockerfile编写、容器生命周期管理

在Edge AI多模型推理服务的场景中，多个模型（如YOLO、BERT、ResNet）往往需要被封装为独立的推理单元，并部署在边缘节点上。容器技术正是实现这一目标的核心底座。Docker作为目前最主流的容器引擎，其核心价值在于将应用及其依赖（CUDA库、Python环境、模型权重、配置文件）打包为一个标准化、可移植的单元，从而解决“在我机器上能跑，在边缘设备上跑不起来”的经典问题。本章将深入剖析Docker的核心概念、镜像与容器的关系、Dockerfile的编写规范以及容器的生命周期管理，为后续学习Kubernetes编排打下坚实基础。

4.1 Docker核心概念与架构原理

Docker并非一个单体软件，而是由客户端、守护进程、镜像仓库和容器运行时组成的分布式系统。理解其架构是掌握容器编排的前提。在Edge AI场景中，我们通常会在开发机上构建镜像，推送到私有仓库，然后在边缘设备（如Jetson、树莓派或工业PC）上拉取并运行。

4.1.1 核心组件与职责

组件	角色	Edge AI场景说明
Docker Client (CLI)	用户操作入口	执行 `docker build/pull/run` 等命令
Docker Daemon (dockerd)	后台守护进程	管理镜像、容器、网络、数据卷；监听API请求
Container Runtime	底层执行引擎	默认使用 `runc`，负责与Linux内核交互（namespace/cgroup）
Registry	镜像分发中心	可部署Harbor私有仓库，存储带GPU驱动的推理镜像
OCI (Open Container Initiative)	标准规范	确保镜像格式和运行时接口的标准化

Docker采用C/S架构，客户端通过REST API与守护进程通信。在边缘设备上，我们通常只安装Docker Engine（包含daemon和CLI），而将构建任务放在CI/CD服务器上完成，以减小边缘节点的资源占用。

  关键理解：Docker容器本质上是宿主机上的普通进程，但通过Linux内核的Namespace（隔离视图）和Cgroups（限制资源）实现了“沙盒”效果。在Edge AI场景中，这意味着多个推理容器可以共享同一块GPU，但各自拥有独立的CUDA环境，互不干扰。

4.2 镜像与容器：分层存储与实例化

镜像是容器的静态模板，容器是镜像的动态运行实例。这一关系类似于面向对象编程中的“类”与“对象”。镜像采用分层（Layer）存储架构，每一层都是只读的，这种设计极大地提升了存储效率和分发速度。

4.2.1 镜像分层原理

一个典型的Edge AI推理镜像可能包含以下层次：

基础层：如 ubuntu:20.04 或 nvidia/cuda:11.8-runtime，提供操作系统和GPU驱动依赖。
依赖层：安装Python 3.8、pip、OpenCV、PyTorch等框架。
应用层：拷贝模型权重文件（如 yolov5s.pt）、推理脚本和配置文件。
入口层：定义容器启动时执行的命令（如 python app.py）。

当使用 docker pull 拉取镜像时，Docker会并行下载各层，并校验SHA256哈希值。如果本地已有相同层（例如多个模型镜像共享同一个CUDA基础层），则直接复用，无需重复下载。

4.2.2 容器可写层与数据持久化

当通过 docker run 创建容器时，Docker会在镜像层之上添加一个可写层（Container Layer）。所有对文件系统的修改（如写入日志、生成临时文件）都发生在此层。容器删除后，可写层随之销毁。因此，对于需要持久化的数据（如模型更新、推理结果），必须使用数据卷（Volume）或绑定挂载（Bind Mount）。

# 示例：将宿主机目录挂载到容器内，实现模型热更新
docker run -d \
  --name yolov5-inference \
  -v /edge/models:/app/models \
  -v /edge/logs:/app/logs \
  --gpus all \
  myregistry:5000/yolov5:1.2.0

风险提示：在边缘设备上，不要将模型权重直接打包进镜像。否则每次模型更新都需要重新构建并推送整个镜像（可能超过2GB），浪费带宽且更新缓慢。推荐使用数据卷挂载方式，实现模型与代码的解耦。

4.3 Dockerfile编写：从源码到可部署镜像

Dockerfile是构建镜像的“配方文件”，通过一系列指令描述如何组装镜像。对于Edge AI推理服务，Dockerfile的编写质量直接影响镜像体积、构建速度和运行性能。

4.3.1 核心指令与最佳实践

指令	用途	Edge AI最佳实践
`FROM`	指定基础镜像	优先选择 `nvidia/cuda:11.8-runtime-ubuntu20.04` 而非全量开发镜像
`WORKDIR`	设置工作目录	使用 `/app` 而非根目录，避免权限问题
`COPY`	拷贝文件进镜像	先拷贝 `requirements.txt`，再拷贝源码，利用层缓存
`RUN`	执行构建命令	合并多个RUN指令，减少镜像层数；安装依赖后清理缓存
`ENV`	设置环境变量	设置 `PYTHONUNBUFFERED=1` 避免日志缓冲
`EXPOSE`	声明端口	声明推理服务端口（如8000），仅作文档用途
`CMD`	默认启动命令	使用 `["python", "app.py"]` 数组格式，避免shell包装

4.3.2 实战：多阶段构建优化镜像体积

Edge设备存储空间有限，多阶段构建是减小镜像体积的有效手段。以下示例展示如何构建一个轻量化的YOLOv5推理镜像：

# 阶段1：编译/安装依赖
FROM python:3.8-slim AS builder
WORKDIR /build
COPY requirements.txt .
RUN pip install --prefix=/install -r requirements.txt \
    && find /install -name "*.pyc" -delete

# 阶段2：运行时镜像
FROM nvidia/cuda:11.8-runtime-ubuntu20.04
WORKDIR /app
COPY --from=builder /install /usr/local
COPY app.py .
COPY models/ ./models/
ENV PYTHONUNBUFFERED=1
EXPOSE 8000
CMD ["python", "app.py"]

此Dockerfile将依赖安装阶段与运行阶段分离，最终镜像仅包含运行所需的二进制文件，体积可减少40%-60%。在构建时，务必使用 .dockerignore 文件排除不必要的文件（如测试数据、.git目录）。

经验之谈：在边缘设备上构建镜像时，建议使用 --network=host 参数，避免DNS解析问题。同时，为apt和pip配置国内镜像源，可显著提升构建速度。

4.4 容器生命周期管理：从创建到销毁

容器的生命周期包括创建、启动、暂停、停止、重启和删除等状态。在Edge AI场景中，推理容器通常需要长时间稳定运行，并支持优雅退出和异常恢复。

4.4.1 生命周期状态机

状态	触发命令	Edge AI场景说明
Created	`docker create`	预分配资源，常用于批量启动前准备
Running	`docker start`	推理服务正常对外提供预测能力
Paused	`docker pause`	暂停所有进程，用于临时冻结推理任务
Stopped	`docker stop`	发送SIGTERM信号，等待优雅退出（默认10秒）
Removed	`docker rm`	删除容器及可写层，释放存储空间

4.4.2 容器健康检查与自动重启

在边缘节点上，推理容器可能因GPU驱动异常、OOM（内存溢出）等原因崩溃。Docker提供了健康检查机制和重启策略，确保服务的高可用性。

# 在Dockerfile中定义健康检查
HEALTHCHECK --interval=30s --timeout=3s --retries=3 \
  CMD curl -f http://localhost:8000/health || exit 1

# 运行时指定重启策略
docker run -d \
  --restart unless-stopped \
  --gpus all \
  --name inference-server \
  myregistry:5000/yolov5:1.2.0

--restart unless-stopped 策略确保容器在退出后自动重启，除非管理员手动停止。对于Edge AI场景，这是推荐的默认策略。

4.4.3 案例：多模型推理服务的容器化部署

背景：某智慧园区项目需要在边缘网关（8GB内存，NVIDIA Xavier NX）上部署人脸检测（FaceDet）和车牌识别（LPR）两个推理服务，要求互不干扰且能独立更新。

初始方案与问题：最初将两个模型打包进同一个容器，导致：① 模型加载时间超过30秒；② 单个模型更新需重启整个容器，影响另一个服务；③ 内存占用峰值达6.5GB，接近硬件上限。

优化方案：拆分为两个独立容器，共享GPU资源但隔离故障域。

分别构建 facedet:1.0 和 lpr:2.1 镜像，均基于相同的CUDA基础层。
使用 docker run 启动两个容器，通过 --memory=4g 限制各自内存上限。
配置 --restart on-failure:5，允许最多5次重启尝试。
使用Docker网络别名，让两个容器通过 localhost:8001 和 localhost:8002 对外提供服务。

结果对比：优化后，单个模型更新只需重建对应镜像并重启该容器，另一服务不受影响；内存峰值降至4.2GB；模型加载时间缩短至15秒（得益于分层缓存）。

复盘经验：容器化部署的核心是“单一职责”原则——每个容器只运行一个主进程。在资源受限的边缘设备上，通过精细的资源限制和健康检查，可以实现多模型服务的稳定共存。

常见误区：不要在生产环境中使用 docker run -it 交互模式运行推理服务。应使用 -d 后台模式，并通过日志（docker logs）监控运行状态。另外，避免在容器内运行SSH服务，这违背了容器的轻量级设计原则。

4.5 本章总结与核心要点

容器技术是Edge AI多模型推理服务编排的基石。本章的核心要点可归纳为：

镜像分层是高效分发和存储的关键，Edge场景应尽量复用基础层。
Dockerfile的编写应遵循“小体积、可缓存、单一职责”原则，多阶段构建是必备技能。
容器生命周期管理需要结合健康检查和重启策略，确保边缘节点的无人值守稳定性。
数据持久化必须使用数据卷，避免将动态数据写入容器可写层。