VIP20
本课程属于：007-大模型部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

大模型部署自动化CI/CD项目案例

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
大模型部署的挑战与自动化CI/CD的… · 课程目标与学习路径
课程导入CI/CD
02
大模型部署基础
模型格式（PyTorch · ONNX · TensorRT）
大模型部署基础PyTorch
03
CI/CD核心概念
持续集成 · 持续交付 · 持续部署的定义
CI/CD核心概念
04
大模型部署流水线设计
从模型训练到生产部署的端到端流程 · 包括模型注册 · 版本管理
大模型部署流水线…从模型训练到生产…
05
模型仓库与版本控制
使用MLflow · DVC或Hugging Face H… · 数据集和实验记录
模型仓库版本控制
06
自动化测试策略
模型精度测试 · 性能基准测试（延迟 · 吞吐量）
自动化测试策略模型精度测试
07
容器化与镜像构建
Dockerfile编写 · GPU环境依赖 · 模型文件打包与镜像优化
容器化镜像构建
08
Kubernetes与编排
部署大模型服务的K8s资源管理 · 自动扩缩容 · 滚动更新与健康检查
Kubernetes编排
09
CI/CD工具选型
Jenkins · GitLab CI · GitHub Actions
CI/CD工具选型
10
流水线自动化实现
编写CI脚本自动触发模型训练 · 评估 · 打包和部署的完整示例
流水线自动化实现CI
11
模型推理服务化
使用FastAPI或gRPC封装模型 · 实现高并发推理服务
模型推理服务化FastAPI
12
GPU资源管理与调度
在CI/CD中动态分配GPU资源 · 处理多租户和资源配额
GPU资源管理
13
模型监控与可观测性
部署后监控模型性能 · 漂移 · 日志收集与告警机制
模型监控可观测性
14
安全与合规
模型安全扫描 · 依赖漏洞检测 · 访问控制与审计日志
安全合规
15
案例实战
基于开源大模型（如Llama 3）构… · 从代码提交到生产上线
案例实战Llama
16
案例实战
多模型A/B测试与金丝雀发布 · 实现安全可控的模型更新
案例实战A/B
17
案例实战
模型量化与加速在CI/CD中的集成 · 自动选择最优部署配置
案例实战CI/CD
18
案例实战
边缘设备上的模型部署自动化 · 使用ONNX Runtime和Ten…
案例实战边缘设备上的模型…
19
常见问题
模型加载慢 · 显存不足 · 推理延迟高
常见问题模型加载慢
20
常见问题
CI/CD流水线中的依赖冲突 · 环境不一致 · 如何保证可复现性
常见问题CI/CD
21
常见问题
模型版本回滚与多版本共存 · 如何设计部署策略
常见问题模型版本回滚
22
常见问题
大规模模型（百亿参数）的部署挑战 · 分片与并行策略
常见问题大规模模型
23
进阶技巧
使用Helm Chart管理部署配置 · 实现环境差异化配置
进阶技巧Helm
24
进阶技巧
GitOps实践 · 使用Argo CD实现声明式部署与自…
进阶技巧GitOps
25
进阶技巧
模型缓存与预热 · 减少冷启动时间 · 提升用户体验
进阶技巧模型缓存
26
进阶技巧
流水线中的成本控制 · 按需启动GPU实例与自动关闭
进阶技巧流水线
27
综合项目
设计一个完整的端到端CI/CD系统 · 涵盖训练 · 评估
综合项目CI/CD
28
综合项目
实现多环境（开发 · 测试 · 生产）的自动化部署
综合项目实现多环境
29
综合项目
集成模型实验追踪与自动化报告 · 生成部署决策建议
综合项目集成模型实验追踪
30
课程总结
回顾关键知识点 · 展望大模型部署自动化的发展趋势与最佳…
课程总结回顾关键知识点