VIP20
本课程属于：080-Supermicro服务器与AI基础设施工程 后端、数据与云原生工程 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

Supermicro AI服务器平台规划与部署

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入与Supermicro AI服务器全景
目标=学习目标 · Supermicro在AI基础设施中… · 产品线概览
SupermicroAI
02
AI工作负载与硬件需求分析
目标=训练 · 推理 · 微调
AI工作负载
03
Supermicro GPU服务器平台选型
目标=4U/8U/10U等机型差异 · HGX · PCIe
SupermicroGPU
04
GPU与加速卡集成规划
目标=NVIDIA H100/H20… · AMD MI系列 · Intel GPU等兼容性
GPU加速卡集成规划
05
CPU与内存子系统规划
目标=Intel Xeon与AMD… · 内存通道 · 容量
CPU内存子系统规划
06
存储架构设计
目标=本地NVMe · RAID · 分布式存储
存储架构设计NVMe
07
网络架构设计
目标=InfiniBand与RoCE… · NCCL通信调优 · 参数服务器与All-Reduce拓扑
网络架构设计InfiniBand
08
供电与散热规划
目标=机柜功率密度计算 · PDU与UPS配置 · 风冷气流组织
供电散热规划
09
机柜与物理部署设计
目标=机柜布局 · 承重 · 走线
机柜物理部署设计
10
BIOS与BMC基础配置
目标=Supermicro BIOS… · BMC/IPMI网络与用户管理 · 固件版本一致性
BIOSBMC
11
GPU驱动与CUDA环境部署
目标=驱动安装 · CUDA Toolkit · cuDNN
GPUCUDA
12
AI框架与容器化环境
目标=PyTorch · TensorFlow · JAX在Supermicro平台上的…
AI框架
13
集群编排与调度
目标=Slurm · Kubernetes · Run:ai等调度器部署
集群编排调度
14
单机多卡训练部署实战
目标=使用NCCL测试 · PyTorch DDP · 数据并行与模型并行配置
单机多卡训练部署…NCCL
15
多机多卡训练部署实战
目标=InfiniBand/RoCE… · SSH免密 · NCCL环境变量
多机多卡训练部署…InfiniBand/R…
16
大模型推理服务部署
目标=vLLM · TensorRT-LLM · Triton Inference S…
大模型推理服务部…vLLM
17
模型微调与参数高效训练
目标=LoRA · QLoRA · 全量微调在Supermicro平台上…
模型微调参数高效训练
18
存储与数据管道优化
目标=数据预处理 · 缓存 · 分片
存储数据管道优化
19
性能基准与调优方法
目标=MLPerf · STREAM · HPL
性能基准调优方法
20
监控、日志与告警体系
目标=DCGM · Prometheus · Grafana
监控日志
21
高可用与容错设计
目标=检查点自动保存 · 任务重启 · 节点故障迁移
高可用容错设计
22
安全与合规配置
目标=BMC安全加固 · 固件签名 · Secure Boot
安全合规配置
23
液冷Supermicro AI服务器部署
目标=冷板式液冷原理 · CDU选型 · 管路连接
SupermicroAI
24
边缘AI与Supermicro紧凑平台
目标=边缘推理场景 · 短深度机箱 · 低功耗GPU
AISupermicro
25
云原生AI平台集成
目标=Kubernetes GPU… · KubeFlow · Ray在Supermicro集群上的…
AI云原生
26
模型部署与API服务化
目标=REST/gRPC接口 · 自动扩缩容 · A/B测试
API模型部署
27
成本与容量规划
目标=TCO分析 · GPU利用率提升 · 资源超卖
成本容量规划
28
故障排查与运维实战
目标=常见GPU掉卡 · NVLink错误 · 网络丢包
故障排查运维实战
29
行业部署案例
目标=互联网大模型训练 · 金融风控推理 · 医疗影像AI
行业部署案例目标=互联网大模…
30
课程总结与部署检查清单
目标=全流程回顾 · 规划模板 · 部署前中后检查表
课程总结部署检查清单