VIP20
本课程属于：021-GPU数据中心：AI算力集群部署 AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

AI训练推理计算框架选型速览

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 课程结构 · AI框架选型的重要性与决策因素概览
课程导入学习目标
02
AI框架生态全景
主流训练与推理框架（TensorFl… · PyTorch · PaddlePaddle
AI框架生态全景
03
训练框架核心概念
计算图 · 自动微分 · 分布式训练
训练框架核心概念计算图
04
PyTorch深入
动态图机制 · torch.nn模块 · torch.utils.data数据…
PyTorch深入
05
TensorFlow深入
静态图与Keras API · tf.data · tf.distribute策略
TensorFlow深入
06
PaddlePaddle与MindSpore
国产框架特点 · 动态图与静态图转换 · 分布式能力
PaddlePaddleMindSpore
07
推理框架基础
推理优化目标（延迟 · 吞吐 · 内存）
推理框架基础推理优化目标
08
ONNX与模型转换
ONNX格式 · 模型导出与转换工具（torch.on… · tf2onnx）
ONNX模型转换
09
TensorRT深入
层融合 · 精度校准（INT8/FP16） · 动态形状
TensorRT深入
10
OpenVINO与ONNX Runtime
CPU/GPU加速 · 模型优化 · 跨平台部署
OpenVINOONNX
11
推理引擎对比
TensorRT · OpenVINO · ONNX Runtime
推理引擎对比TensorRT
12
硬件适配与加速器
GPU（CUDA） · NPU · TPU
硬件适配加速器
13
分布式训练框架
Horovod · DeepSpeed · Megatron-LM
分布式训练框架Horovod
14
模型压缩与加速
剪枝 · 量化 · 蒸馏
模型压缩加速
15
训练推理一体化平台
Kubeflow · MLflow · Seldon等MLOps工具链集成
训练推理一体化平…Kubeflow
16
框架选型方法论
业务场景分析 · 团队技术栈 · 硬件资源
框架选型方法论业务场景分析
17
案例实战
图像分类任务从训练到推理的框架选型与…
案例实战图像分类任务从训…
18
案例实战
NLP模型（BERT）的训练与推理框…
案例实战NLP
19
案例实战
推荐系统模型（DeepFM）的训练与…
案例实战DeepFM
20
案例实战
大规模分布式训练（GPT-3规模）的…
案例实战GPT-3
21
常见问题
框架兼容性 · 版本升级 · 模型转换失败
常见问题框架兼容性
22
常见问题
训练与推理环境隔离 · 容器化部署 · 资源调度
常见问题训练
23
常见问题
多框架协同 · 模型仓库管理 · 版本控制
常见问题多框架协同
24
性能调优
Profiling工具（NVIDIA… · PyTorch Profiler） · 内存优化
性能调优Profiling
25
成本与运维
云服务选型（AWS · 阿里云） · GPU实例
成本运维
26
安全与合规
模型加密 · 推理服务安全 · 数据隐私保护
安全合规
27
前沿趋势
大模型训练推理框架（vLLM · TensorRT-LLM） · 边缘计算
前沿趋势vLLM
28
综合实战
从零构建一个端到端的AI应用 · 涵盖框架选型 · 训练
综合实战AI
29
课程总结
核心要点回顾 · 选型决策清单 · 学习路径建议
课程总结核心要点回顾
30
结业测试
综合案例分析 · 要求学员给出特定场景下的框架选型方案…
结业测试综合案例分析