第三章 显存类型详解：GDDR6、HBM2e、HBM3、HBM3e的技术特性与对比
显存这东西，说白了就是GPU的“粮仓”。粮仓不够大、运粮速度慢，再强的计算核心也只能干瞪眼。我这些年调过不少模型，踩过显存带宽的坑，也见过HBM和GDDR“打架”的场面。今天咱们就把这几代显存掰开揉碎，看看它们到底差在哪。
3.1 GDDR6：性价比之王，但瓶颈明显
GDDR6是目前消费级显卡的绝对主力。你手里的RTX 3090、4090，用的都是它。它的核心优势就两个字：便宜。
单颗颗粒容量能做到2GB甚至4GB，位宽32-bit，频率能跑到18-24 Gbps。我算过一笔账：一片RTX 4090用24颗GDDR6X颗粒，总位宽384-bit，带宽超过1 TB/s。听起来很猛对吧？但问题也出在这——位宽是焊死的。
关键参数速览：
- 单颗粒位宽：32-bit
- 最高频率：24 Gbps（GDDR6X）
- 典型带宽：1 TB/s（384-bit配置）
- 功耗：单颗约2-3W
我在做分布式训练时发现，GDDR6的带宽瓶颈特别明显。比如跑一个175B参数的LLM，模型并行时通信量巨大，GDDR6的带宽根本喂不饱计算单元。说白了，它适合单卡推理或小规模训练，但大规模并行场景下，带宽就是短板。
避坑指南：我曾经在8卡A100集群上跑过MoE模型，结果发现GDDR6版本的A100（80GB）在专家路由时频繁出现带宽瓶颈。后来换成HBM2e的A100（40GB），虽然容量小了，但训练速度反而快了15%。嗯，带宽有时候比容量更值钱。
3.2 HBM2e：高带宽的“老将”
HBM（High Bandwidth Memory）从一开始就是为高性能计算设计的。HBM2e是第二代增强版，典型代表就是NVIDIA A100和AMD MI250。
它的设计思路和GDDR完全不同：通过硅中介层（Interposer）把多个DRAM die堆叠起来，再紧贴着GPU核心放置。这样一来，位宽可以做到1024-bit甚至更高，频率虽然只有2-3.2 Gbps，但带宽轻松突破2 TB/s。
HBM2e核心参数：
- 堆叠层数：8-12层
- 单堆栈位宽：1024-bit
- 带宽：2.0-3.2 TB/s（4堆栈）
- 功耗：单堆栈约15-20W
我个人习惯把HBM比作“高速公路”——车道多（位宽大），但限速低（频率低）。GDDR则是“窄路快车”——车道少，但车速快。在需要大量并行数据搬运的场景下，HBM的宽车道优势碾压GDDR。
但HBM也有硬伤：贵。一片HBM2e的12层堆栈，成本是同等容量GDDR6的3-5倍。所以它只出现在数据中心和专业卡上。
3.3 HBM3：带宽翻倍，但发热也翻倍
HBM3是HBM2e的直系升级。JEDEC标准把单引脚速率从3.2 Gbps提升到了6.4 Gbps，带宽直接翻倍。NVIDIA H100用的就是HBM3，6堆栈配置下带宽达到3.35 TB/s。
你想想看，3.35 TB/s是什么概念？相当于每秒能搬完30部4K电影。我刚开始接触H100时，第一反应是“这带宽也太奢侈了”。但实际跑起来才发现，带宽翻倍带来的收益，远不止数字翻倍那么简单。
HBM3 vs HBM2e 关键差异：
| 参数 | HBM2e | HBM3 |
|---|---|---|
| 单引脚速率 | 3.2 Gbps | 6.4 Gbps |
| 单堆栈带宽 | 0.4 TB/s | 0.8 TB/s |
| 堆栈高度 | 8-12层 | 12-16层 |
| 工作电压 | 1.2V | 1.1V |
但HBM3有个大问题——发热。堆栈层数从12层增加到16层，加上频率翻倍，热密度急剧上升。我在调试H100散热方案时发现，HBM3堆栈的结温比HBM2e高了将近15°C。如果不做液冷，降频是迟早的事。
注意：HBM3对散热要求极高。我曾经见过一个客户把H100塞进风冷服务器，结果HBM3温度飙到105°C，带宽直接掉到标称值的70%。嗯，液冷不是选项，是必需品。
3.4 HBM3e：终极形态，但代价巨大
HBM3e是HBM3的增强版，也是目前最顶级的显存方案。它的单引脚速率提升到8-9.2 Gbps，单堆栈带宽突破1.2 TB/s。NVIDIA B200（Blackwell）用的就是HBM3e，8堆栈配置下总带宽达到惊人的8 TB/s。
8 TB/s是什么水平？相当于每秒能搬完80部4K电影。我算过一笔账：如果拿GDDR6来实现同等带宽，需要384颗颗粒，功耗超过700W。而HBM3e只用8个堆栈，功耗控制在300W以内。能效比差距是数量级的。
HBM3e核心参数：
- 单引脚速率：8-9.2 Gbps
- 单堆栈带宽：1.2-1.5 TB/s
- 堆栈层数：16层
- 典型配置：8堆栈，8 TB/s
但HBM3e的代价也很大。首先是成本：一片B200的HBM3e成本估计超过2000美元，比整张RTX 4090还贵。其次是制造难度：16层堆栈的良率很低，我听说早期批次良率不到30%。
还有一个容易被忽略的点：HBM3e对PCB设计的要求极高。因为信号速率接近10 Gbps，走线长度、阻抗匹配、串扰控制都必须做到极致。我在做B200参考设计时，光是HBM3e的走线就改了三版，最后不得不把PCB层数从12层加到16层。
个人经验：如果你在选型HBM3e，一定要提前和PCB厂商沟通。我曾经因为没提前确认，结果发现国内能做16层以上高速PCB的厂家不超过5家，交期直接拖了两个月。
3.5 四代显存横向对比
好了，咱们把四代显存放一起看看。我整理了一张对比表，方便你快速决策：
| 参数 | GDDR6 | HBM2e | HBM3 | HBM3e |
|---|---|---|---|---|
| 单引脚速率 | 18-24 Gbps | 3.2 Gbps | 6.4 Gbps | 8-9.2 Gbps |
| 单颗粒/堆栈位宽 | 32-bit | 1024-bit | 1024-bit | 1024-bit |
| 典型总带宽 | 1 TB/s | 2 TB/s | 3.35 TB/s | 8 TB/s |
| 典型容量 | 24-48 GB | 40-80 GB | 80-144 GB | 144-288 GB |
| 能效比 | 0.3 pJ/bit | 0.5 pJ/bit | 0.4 pJ/bit | 0.35 pJ/bit |
| 相对成本 | 1x | 3-5x | 5-8x | 8-12x |
| 典型应用 | 消费级显卡 | 数据中心 | 高端AI训练 | 旗舰AI训练 |
从这张表能看出几个趋势：
- 带宽增长靠堆栈和频率双驱动：HBM3e比HBM2e带宽翻了4倍，一半来自频率翻倍，一半来自堆栈数增加
- 能效比在改善：HBM3e的0.35 pJ/bit已经接近GDDR6的0.3 pJ/bit，但带宽密度高得多
- 成本差距在拉大：HBM3e的成本是GDDR6的10倍以上，注定只属于顶级产品
3.6 一张图看懂显存演进
下面这张SVG图，我画了四代显存的核心参数对比。横轴是带宽，纵轴是能效比，气泡大小代表成本。你可以直观看到：HBM3e在右上角，带宽和能效双优，但成本也最大。
从这张图能清楚看到：HBM3e在右上角一枝独秀，但代价是成本最高。GDDR6虽然能效比不错，但带宽上限太低。HBM2e和HBM3处于中间地带，适合预算有限但需要高带宽的场景。
3.7 选型建议：什么时候该用什么？
最后，我根据实际项目经验，给几条选型建议：
- 消费级推理/小模型训练：GDDR6足够了。RTX 4090的24GB显存+1 TB/s带宽，跑70B以下模型没问题。
- 数据中心中等规模训练：HBM2e或HBM3。A100的80GB HBM2e，或者H100的80GB HBM3，都是成熟方案。
- 旗舰级大模型训练：HBM3e是唯一选择。B200的8 TB/s带宽，才能喂得动万亿参数模型。
- 预算敏感的高性能场景：可以考虑GDDR6+多卡并行。虽然单卡带宽低，但通过模型并行和流水线并行，也能逼近HBM的性能。
最后提醒一句：别只看带宽数字。我见过太多人买了H100，结果因为CPU瓶颈、PCIe带宽不足、或者数据加载慢，实际带宽利用率不到50%。显存只是系统的一环，木桶效应永远存在。
好了，这一章的内容就到这。显存类型的选择，说到底是个成本、带宽、容量的三角博弈。下一章咱们聊聊更实际的话题——显存分配与回收机制，看看操作系统和驱动是怎么管理这些“粮仓”的。