VIP20

本课程属于：014-GPU集群 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

GPU集群原理解析与入门

📚 共计 30 章节

GPU集群概述

什么是GPU集群 · 诞生背景 · 核心价值 · AI训练/HPC/渲染

概念应用场景

GPU硬件架构基础

CUDA Core · Tensor Core · 显存 · CPU协同 · 并行模型

GPU集群网络拓扑

Leaf-Spine · NVLink/NVSwitch · InfiniBand vs RoCEv2 · 带宽计算

GPU集群存储架构

Lustre/GPFS · 数据缓存 · 加载流水线 · IO瓶颈优化

存储分布式

GPU集群资源管理

Slurm/Kubernetes · vGPU/MIG · 任务队列 · 优先级

调度虚拟化

GPU集群监控与运维

温度/功耗/利用率 · 日志采集 · 故障自愈 · 基准测试

GPU集群并行计算模型

数据并行 · 模型并行 · 流水线并行 · 混合并行 · 通信重叠

GPU集群通信库

NCCL · MPI · AllReduce/AllGather · 通信拓扑优化

GPU集群容器化技术

Docker + NVIDIA Toolkit · K8s GPU调度 · Pod间通信

深度学习训练实践

PyTorch DDP · Horovod · 混合精度AMP · 梯度累积

GPU集群推理服务部署

TensorRT/ONNX · Triton · 动态批处理 · 负载均衡

GPU集群性能调优

Nsight Systems · 内存带宽 · Kernel融合 · 算子优化

GPU集群故障处理

GPU Hang/ECC · 驱动问题 · Checkpoint/Restart · 容错

GPU集群成本优化

TCO分析 · Spot实例 · 资源碎片 · Power Capping

GPU集群安全与隔离

多租户隔离 · 数据加密 · RBAC · 安全审计

GPU集群网络高级特性

RDMA · GPUDirect RDMA · DCQCN · 自适应路由

GPU集群存储高级特性

NVMe over Fabrics · GPU Direct Storage · 压缩去重

调度策略深度解析

Gang Scheduling · Backfilling · 拓扑感知 · 抢占回填

TensorFlow分布式 · PyTorch FSDP · JAX pmap · 协同优化

基准测试与评估

MLPerf · HPL/HPCG · 性能模型 · 集群对比

GPU集群绿色计算

液冷散热 · FLOPS/Watt · 碳足迹 · 绿色数据中心

GPU集群异构计算

CPU+GPU+DPU · FPGA · ASIC对比 · 统一调度

GPU集群云原生实践

K8s Operator · 自定义调度器 · GPU池化 · Serverless

云原生Operator

GPU集群网络虚拟化

VXLAN/Geneve · SR-IOV · 网络策略 · 多网卡绑定

虚拟化Overlay

GPU集群存储虚拟化

CSI插件 · 动态卷管理 · 快照克隆 · 数据本地性

日志与监控体系

Prometheus+Grafana · ELK · 自定义Exporter · 告警

监控Prometheus

训练流水线 · 自动化测试 · MLflow · A/B测试

GPU集群联邦学习

联邦架构 · 安全聚合 · 通信效率 · 异构适配

联邦学习隐私

GPU集群量子计算模拟

量子电路 · 张量网络 · GPU加速 · 混合量子经典

GPU集群未来趋势

Chiplet · 光互连 · 存算一体 · AI for Cluster