所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。

← 返回上一级

← 返回所属目录咨询 / 购买

服务器GPU硬件架构深度解析

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 目标受众 · 课程结构

课程导入学习目标

GPU基础架构

从图形处理器到通用计算 · SIMT/SIMD模型 · 流处理器

GPU基础架构

服务器GPU形态与接口

PCIe · NVLink · CXL

GPU计算单元详解

SM/CU架构 · CUDA核心/流处理器 · 张量核心（Tensor Core）

GPU计算单元详解

GPU内存层次结构

寄存器文件 · 共享内存 · L1/L2缓存

GPU内存层次结构

显存技术深度

HBM2e/HBM3/GDDR6X的… · 堆叠方式 · 带宽计算

显存技术深度HBM2e/HBM3/G…

GPU调度与执行模型

线程块调度 · 线程束调度器 · 指令分发

GPU流水线与指令级并行

指令流水线 · 多发射 · 乱序执行（在GPU中的限制）

GPU功耗与热设计

TDP · 功耗墙 · 动态电压频率调整（DVFS）

GPU虚拟化与多租户

硬件虚拟化（SR-IOV） · MIG（多实例GPU） · 时间切片

GPU固件与驱动架构

VBIOS · GPU驱动栈（用户态/内核态） · CUDA运行时

GPU性能分析工具

nvidia-smi · nvtop · CUDA事件

GPU性能分析工具

GPU基准测试与性能指标

FLOPS · 显存带宽 · 延迟

GPU基准测试

主流服务器GPU产品对比

NVIDIA A100/H100/A… · AMD MI250/MI300 · Intel Ponte Vecchi…

GPU主流服务器

GPU服务器整机架构

主板设计 · 供电模块（VRM） · PCIe拓扑

GPU服务器整机架构

GPU与CPU协同架构

异构计算模型 · PCIe/NVLink带宽对数据传输… · 统一内存与零拷贝技术

GPU网络互连

InfiniBand · RoCE · GPUDirect RDMA

GPU网络互连

GPU存储系统

本地NVMe · 分布式存储 · GPU直连存储（GPUDirect…

GPU存储系统

GPU硬件故障与可靠性

错误检测（ECC） · 故障类型（显存/核心/链路） · 热插拔

GPU硬件故障

GPU固件升级与维护

VBIOS更新 · 驱动兼容性 · 固件回滚

GPU固件升级

GPU硬件调试与排查

常见故障现象（黑屏/掉卡/性能下降） · 日志分析 · 硬件诊断工具（如GPU burn）

GPU硬件调试

GPU性能调优实战

矩阵乘法 · 卷积 · Transformer等典型负载的硬…

GPU性能调优实战

GPU集群部署案例

大型数据中心GPU集群的硬件架构设计… · 布线 · 供电

GPU集群部署案例

GPU在AI训练中的硬件需求

大规模模型训练对显存 · 算力 · 通信的需求

GPU在AI推理中的硬件优化

推理延迟与吞吐量 · 模型压缩 · TensorRT/OpenVINO等…

GPU在科学计算中的硬件应用

分子动力学 · 气象模拟 · CFD等

GPU科学计算

GPU硬件安全

侧信道攻击（如Meltdown/Sp… · 固件安全 · 硬件信任根

GPU硬件安全

GPU硬件发展趋势

Chiplet设计 · 3D堆叠 · 光互连

GPU硬件发展趋势

GPU硬件选型与成本分析

根据工作负载选择GPU型号 · TCO计算 · 云GPU vs 自建

GPU硬件选型

综合实战项目

设计一套面向特定应用（如大模型训练）… · 包括架构图 · 选型理由

综合实战项目设计一套面向特定…