首页
›
工业控制与工业互联网
›
025-Edge AI Docker容器化推理
›
《Edge AI推理容器镜像裁剪与启动加速指南》
VIP20
本课程属于:025-Edge AI Docker容器化推理
工业控制与工业互联网 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
📘
Edge AI推理容器镜像裁剪与启动加速指南
共计 30 章节
点击此处阅读海量试读课程:100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程结构
课程导入
学习目标
02
边缘AI推理基础
边缘计算与AI推理概述 · 典型推理框架(TensorRT · ONNX Runtime
AI
边缘
03
容器镜像基础
Docker镜像分层原理 · 镜像构建机制 · 镜像大小组成分析(基础镜像
容器镜像基础
Docker
04
镜像裁剪核心概念
最小化原则 · 可复现性 · 安全性与功能完整性的平衡
镜像裁剪核心概念
最小化原则
05
基础镜像选择策略
Alpine · Distroless · Slim
基础镜像选择策略
Alpine
06
依赖库裁剪方法
使用ldd分析动态依赖 · 剔除无用库 · 静态编译与动态链接的取舍
依赖库裁剪方法
ldd
07
Python运行时精简
使用python:3.x-slim · 移除pip缓存 · 使用虚拟环境
Python
运行时精简
08
模型文件优化
模型量化(INT8/FP16) · 模型压缩 · 模型格式转换(ONNX/Tensor…
模型文件优化
INT8/FP16
09
多阶段构建实战
以TensorRT推理服务为例 · 演示从构建环境到运行环境的镜像裁剪流…
多阶段构建实战
TensorRT
10
镜像层合并与扁平化
使用docker-squash · BuildKit的--squash特… · 减少层数并压缩镜像体积
镜像层合并
扁平化
11
镜像压缩工具
Docker Slim · SlimToolkit · UPX等工具的使用方法与效果对比
镜像压缩工具
Docker
12
启动加速原理
容器启动流程分析(镜像拉取 · 解压 · 运行时初始化)
启动加速原理
容器启动流程分析
13
镜像拉取加速
使用镜像仓库加速器 · P2P分发(Dragonfly) · 镜像预热与缓存策略
镜像拉取加速
使用镜像仓库加速…
14
容器运行时优化
使用containerd · CRI-O · gVisor等运行时
容器运行时优化
containerd
15
启动命令优化
精简entrypoint · 避免启动时安装依赖 · 使用静态二进制
启动命令优化
entrypoint
16
模型加载加速
模型预加载 · 内存映射(mmap) · 模型缓存
模型加载加速
模型预加载
17
推理框架启动优化
TensorRT引擎序列化 · ONNX Runtime会话优化 · OpenVINO模型缓存
推理框架启动优化
TensorRT
18
硬件适配与驱动裁剪
GPU驱动 · CUDA库 · TensorRT组件的裁剪
硬件适配
驱动裁剪
19
案例实战一
基于TensorRT的YOLOv5推… · 从2GB降至500MB并加速启动
案例实战一
TensorRT
20
案例实战二
基于ONNX Runtime的BER… · 处理CPU推理场景的启动延迟
案例实战二
ONNX
21
案例实战三
基于OpenVINO的Edge设备镜… · 适配Intel NUC/树莓派等低功…
案例实战三
OpenVINO
22
CI/CD集成
在Jenkins/GitLab CI… · 裁剪 · 测试与发布流程
CI/CD
集成
23
镜像安全与合规
最小化攻击面 · 漏洞扫描(Trivy) · 签名与信任
镜像安全
合规
24
性能测试与基准
使用crictl · podman · time等工具测量镜像大小
性能测试
基准
25
常见问题与排错
镜像裁剪后运行报错 · 依赖缺失 · 模型加载失败
常见问题
排错
26
高级技巧
使用chroot · proot · 静态编译
高级技巧
chroot
27
边缘场景适配
不同边缘硬件(Jetson · RK3588 · x86)的镜像定制与优化策略
边缘场景适配
Jetson
28
综合项目
从零构建一个生产级边缘AI推理容器 · 包含镜像裁剪 · 启动加速
综合项目
AI
29
未来趋势与扩展
OCI标准 · Wasm · Unikernel
未来趋势
扩展
30
课程总结与考核
核心知识点回顾 · 最佳实践清单 · 实战考核任务与后续学习路径
课程总结
考核
所属VIP或分类
同VIP:Docker-Compose对接多个边缘推理节点项目
同VIP:Docker-Compose编排边缘AI推理服务实战
同VIP:Docker-Compose部署多模型推理服务教程