VIP20
本课程属于：025-Edge AI Docker容器化推理 工业控制与工业互联网 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

Edge AI多模型推理服务容器编排学习资料

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 目标学员 · 课程结构
课程导入学习目标
02
边缘计算与AI推理基础
边缘计算概念 · 边缘AI典型场景 · 推理与训练的区别
AI边缘计算
03
多模型推理服务概述
多模型推理的需求 · 模型类型（检测 · 分类
多模型推理服务概…多模型推理的需求
04
容器技术基础
Docker核心概念 · 镜像与容器 · Dockerfile编写
容器技术基础Docker
05
容器编排入门
Kubernetes核心组件 · Pod · Deployment
容器编排入门Kubernetes
06
边缘环境下的容器编排
边缘节点资源受限 · 网络不稳定 · 离线部署等特殊考量
边缘环境下的容器…边缘节点资源受限
07
推理服务框架选型
TensorFlow Serving · ONNX Runtime · Triton Inference S…
推理服务框架选型TensorFlow
08
多模型打包与镜像优化
多模型镜像构建策略 · 层缓存 · 模型文件组织
多模型打包镜像优化
09
模型版本管理与多版本共存
模型仓库 · 版本标签 · 灰度发布
模型版本管理多版本共存
10
推理服务的资源需求分析
CPU · 内存 · GPU/NPU需求评估
推理服务的资源需…CPU
11
Kubernetes资源管理与调度
Requests/Limits设置 · 节点亲和性 · 污点与容忍
Kubernetes资源管理
12
多模型推理服务的部署策略
单Pod多容器 · 多Pod多Service · Sidecar模式
多模型推理服务的…Pod
13
服务发现与负载均衡
ClusterIP · NodePort · Ingress
服务发现负载均衡
14
推理服务的自动伸缩
HPA · VPA · 基于自定义指标的伸缩
推理服务的自动伸…HPA
15
模型热更新与滚动升级
Deployment滚动更新 · 金丝雀发布 · 模型热加载实现
模型热更新滚动升级
16
边缘-云协同推理架构
边缘节点与云端协同 · 模型分发 · 推理结果回传
边缘云协同推理架构
17
多模型推理的流水线编排
DAG编排 · 多模型串联/并联 · 推理结果聚合
多模型推理的流水…DAG
18
边缘AI推理的加速技术
TensorRT · OpenVINO · 量化
AI边缘
19
容器网络与存储配置
CNI插件 · 边缘网络模式 · 持久化存储（PV/PVC）
容器网络存储配置
20
安全与权限控制
镜像安全 · RBAC · Secret管理
安全权限控制
21
监控与日志收集
Prometheus监控 · Grafana可视化 · 日志采集方案
监控日志收集
22
故障排查与高可用
常见故障场景 · Pod重启策略 · 健康检查
故障排查高可用
23
边缘AI推理性能调优
延迟优化 · 吞吐量优化 · 批处理
AI边缘
24
实战项目一
基于K3s的轻量级边缘集群部署多模型…
实战项目一K3s
25
实战项目二
使用Triton Inference…
实战项目二Triton
26
实战项目三
实现模型热更新与灰度发布 · 模拟边缘节点断网场景下的服务连续性
实战项目三实现模型热更新
27
实战项目四
构建边缘-云协同推理系统 · 实现云端模型训练与边缘推理的联动
实战项目四构建边缘
28
常见问题与解决方案
镜像拉取慢 · 资源竞争 · 模型加载失败
常见问题解决方案
29
综合提升
从单节点到多集群 · 边缘计算框架（KubeEdge · OpenYurt）集成
综合提升从单节点到多集群
30
课程总结与进阶路径
知识体系回顾 · 最佳实践总结 · 推荐学习资源与认证路径
课程总结进阶路径