所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

模型部署原理基础

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · 模型部署的定义与重要性
课程导入学习目标
02
部署基础概念
模型训练与部署的区别 · 推理与训练的区别 · 部署的挑战（延迟
部署基础概念模型训练
03
模型部署流程概览
从训练到部署的完整生命周期 · 模型导出 · 优化
模型部署流程概览从训练到部署的完…
04
模型格式与转换
常见模型格式（ONNX · TensorRT · TorchScript
模型格式转换
05
模型量化基础
量化的原理（FP32到INT8） · 量化类型（PTQ · QAT）
模型量化基础FP32
06
模型剪枝与稀疏化
剪枝方法（结构化 · 非结构化） · 稀疏化技术
模型剪枝稀疏化
07
模型蒸馏与压缩
知识蒸馏原理 · 蒸馏在部署中的应用 · 模型压缩的综合策略
模型蒸馏压缩
08
推理引擎与框架
主流推理引擎（TensorRT · ONNX Runtime · OpenVINO
推理引擎框架
09
CPU推理优化
指令集优化（AVX · NEON） · 多线程与并行
CPU推理优化
10
GPU推理优化
CUDA基础 · Tensor Core利用 · 批处理优化
GPU推理优化
11
模型服务化架构
客户端-服务器模式 · REST/gRPC API设计 · 无状态与有状态服务
模型服务化架构客户端
12
部署环境与容器化
Docker基础 · 镜像构建 · 容器化部署的优势
部署环境容器化
13
模型版本管理与回滚
模型仓库 · 版本控制策略 · 灰度发布与回滚机制
模型版本管理回滚
14
模型监控与日志
性能监控指标（延迟 · 吞吐 · 错误率）
模型监控日志
15
模型安全与隐私
模型加密 · 对抗攻击防御 · 差分隐私
模型安全隐私
16
边缘设备部署
边缘计算概念 · 移动端/嵌入式部署（TensorFl… · Core ML）
边缘设备部署边缘计算概念
17
云端部署实战
使用云服务（AWS SageMake… · Azure ML · 阿里云PAI）部署模型
云端部署实战AWS
18
推理性能基准测试
基准测试方法 · 工具（perf · benchmark）
推理性能基准测试基准测试方法
19
批处理与动态形状
静态批处理与动态批处理 · 动态形状处理 · 请求调度策略
批处理动态形状
20
模型集成与多模型管理
多模型推理 · 模型路由 · 模型集成服务（如Triton Ens…
模型集成多模型管理
21
部署中的常见问题与调试
内存泄漏 · 精度下降 · 延迟抖动
部署常见问题
22
自动化部署与CI/CD
持续集成/持续部署在ML中的应用 · 模型测试自动化 · 部署流水线设计
CI/CD自动化部署
23
模型解释性与部署
可解释性工具（SHAP · LIME）在部署中的集成 · 合规性要求
模型解释性部署
24
大规模部署实践
分布式推理 · 负载均衡 · 弹性伸缩
大规模部署实践分布式推理
25
案例实战
图像分类模型部署（从PyTorch到…
案例实战PyTorch
26
案例实战
NLP模型部署（BERT模型优化与部… · 使用ONNX Runtime）
案例实战NLP
27
案例实战
推荐系统模型部署（特征服务 · 模型推理 · 在线更新）
案例实战推荐系统模型部署
28
综合项目
端到端模型部署项目（需求分析 · 模型优化 · 服务化
综合项目端到端模型部署项…
29
前沿趋势与进阶方向
模型部署与MLOps · Serverless推理 · 模型即服务（MaaS）
前沿趋势进阶方向
30
课程总结与考核
核心知识回顾 · 常见面试题解析 · 实战考核任务与结业标准
课程总结考核