VIP8
本课程属于：083-工业边缘计算与容器化部署 智能机器人、自动化与智能装备工程 · 共 8 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

Edge AI容器化部署与推理服务搭建教程

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入学习目标
02
边缘AI基础
边缘计算与云计算的差异 · 边缘AI典型应用场景 · 边缘推理的挑战（延迟
AI边缘
03
容器化基础
Docker核心概念（镜像 · 容器 · 卷
容器化基础Docker
04
AI模型打包
将PyTorch/TensorFlo… · 模型优化（量化 · 剪枝）
AI模型打包
05
构建推理服务镜像
选择基础镜像（如nvidia/cud… · tensorflow/serving… · 安装依赖
构建推理服务镜像nvidia/cud
06
推理服务框架
使用FastAPI/Flask封装R… · gRPC服务 · Triton Inference S…
推理服务框架FastAPI/Flas…
07
多模型管理
单容器多模型加载 · 模型版本控制 · 动态模型切换
多模型管理单容器多模型加载
08
边缘设备适配
CPU/GPU/NPU/TPU支持 · TensorRT/OpenVINO集… · ARM架构交叉编译
边缘设备适配CPU/GPU/NPU/…
09
容器网络与存储
Docker网络模式 · 数据卷挂载 · 模型持久化
容器网络存储
10
容器编排入门
Kubernetes核心概念（Pod · Deployment · Service）
容器编排入门Kubernetes
11
边缘集群部署
在树莓派/Jetson等设备上部署K… · 节点标签与资源管理
边缘集群部署Jetson
12
推理服务自动伸缩
基于CPU/GPU利用率的HPA · 边缘场景下的弹性策略
推理服务自动伸缩CPU/GPU
13
模型热更新
蓝绿部署 · 滚动更新 · 金丝雀发布
模型热更新蓝绿部署
14
监控与日志
Prometheus+Grafana… · 容器日志收集（ELK/Loki）
监控日志
15
安全与隐私
容器安全加固 · 模型加密 · TLS通信
安全隐私
16
性能优化
推理延迟优化 · 批处理 · 模型并行
性能优化推理延迟优化
17
实战案例一
基于YOLOv5的实时目标检测服务部…
实战案例一YOLOv5
18
实战案例二
基于BERT的文本分类服务部署（Tr…
实战案例二BERT
19
实战案例三
多模型级联推理（图像检测+OCR）容…
实战案例三OCR
20
实战案例四
在Jetson Nano上部署人脸识…
实战案例四Jetson
21
实战案例五
使用K3s管理边缘集群中的多个推理服…
实战案例五K3s
22
常见问题排查
容器启动失败 · GPU不可用 · 内存溢出
常见问题排查容器启动失败
23
CI/CD流水线
自动化构建镜像 · 测试推理服务 · 推送私有仓库
CI/CD流水线
24
边缘AI框架选型
KubeEdge · EdgeX Foundry · Azure IoT Edge
AI边缘
25
模型服务化最佳实践
API设计规范 · 请求/响应格式 · 错误处理
模型服务化最佳实…API
26
资源限制与配额
设置CPU/内存限制 · GPU显存限制 · 避免资源争抢
资源限制配额
27
离线与弱网环境部署
镜像离线分发 · 模型预加载 · 断网续传
离线弱网环境部署
28
综合项目
从零搭建一个边缘AI平台（包含模型管… · 服务部署 · 监控告警）
综合项目AI
29
课程总结
核心知识点回顾 · 常见误区 · 学习路径建议
课程总结核心知识点回顾
30
考核与进阶
综合测验 · 实战项目评估 · 边缘AI容器化高级主题（Server…
考核进阶