VIP20

本课程属于：025-Edge AI Docker容器化推理 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

Docker Compose编排边缘AI推理服务实战

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 适用人群 · 课程结构

课程导入学习目标

边缘计算概念 · 边缘AI推理场景 · 与云端AI的差异

Docker基础回顾

镜像 · 容器 · Dockerfile

Docker基础回顾

Docker Compose核心概念

服务 · 项目 · 配置文件结构

安装Docker与Compose · 配置GPU支持（NVIDIA Con… · 验证环境

环境准备Docker

边缘AI推理服务典型架构

模型服务 · 预处理服务 · 后处理服务

模型打包与镜像制作

将PyTorch/TensorFlo… · 优化镜像大小

模型打包镜像制作

编写第一个Compose文件

定义单一推理服务 · 映射端口 · 挂载模型目录

Compose编写第一个

多服务编排实战

推理服务+预处理服务+结果存储服务 · 使用Compose实现服务间通信

多服务编排实战推理服务+预处理…

依赖管理与启动顺序

depends_on · 健康检查 · restart策略

依赖管理启动顺序

使用环境变量文件（.env） · Compose中的变量替换 · 不同环境（开发/生产）配置

配置管理env

数据持久化

命名卷 · 绑定挂载 · 模型文件与日志的持久化策略

数据持久化命名卷

自定义网络 · 服务别名 · 端口映射

网络配置自定义网络

GPU加速编排

在Compose中启用GPU资源 · nvidia-smi验证 · 多GPU分配

GPU加速编排

边缘设备适配

ARM架构镜像（多平台构建） · 资源限制（CPU/内存） · 低功耗优化

边缘设备适配ARM

日志与监控

集中日志收集（ELK/Loki） · Prometheus监控 · Compose中的健康检查与自愈

模型热更新与版本管理

蓝绿部署 · 滚动更新 · 模型版本控制

模型热更新版本管理

镜像安全扫描 · 非root运行 · 密钥管理

安全加固镜像安全扫描

推理延迟优化 · 批处理 · 并发控制

性能调优推理延迟优化

实战案例一

基于YOLOv5的边缘目标检测服务 · 使用Compose编排推理+RTSP…

实战案例一YOLOv5

实战案例二

基于BERT的文本分类边缘服务 · 编排推理+API网关+Redis缓存

实战案例二BERT

实战案例三

多模型协同（人脸检测+识别+属性分析… · Compose编排复杂流水线

实战案例三多模型协同

实战案例四

边缘集群部署 · 使用Docker Compose +…

实战案例四边缘集群部署

常见问题排查

容器启动失败 · 网络不通 · GPU不可用

常见问题排查容器启动失败

进入容器 · 查看日志 · 使用docker compose e…

调试技巧进入容器

使用GitLab CI/GitHub…

与Kubernetes对比

Compose在边缘场景的优势与局限 · 何时迁移到K8s

Kubernetes对比

综合实战项目

设计一个完整的边缘AI推理平台 · 包含多服务编排 · 监控

综合实战项目AI

最佳实践总结

Compose文件编写规范 · 项目结构 · 团队协作

最佳实践总结Compose

课程总结与进阶方向

回顾核心技能 · 边缘AI未来趋势 · 推荐学习资源与社区

课程总结进阶方向