显存基础：显存的作用与工作原理
大家好，我是你们的老朋友。今天咱们来聊聊显存——这个GPU性能调优里最基础、也最容易踩坑的东西。
说实话，我见过太多工程师，一上来就调核心频率、改流水线，结果性能瓶颈其实卡在显存上。你想想看，GPU算得再快，数据喂不进去，那不白搭吗？
显存到底在干什么？
显存，全称是「视频随机存取存储器」。说白了，它就是GPU的「临时仓库」。
GPU要处理图像、计算矩阵，数据从哪来？从显存来。算完的结果放哪？放回显存。显存就是GPU和CPU之间的数据中转站。
我个人习惯把显存比作「厨房的操作台」。CPU是冰箱（系统内存），GPU是厨师（计算核心），显存就是厨师手边的操作台。操作台够大、够快，厨师才能麻利地干活。
核心作用三点：
- 存储纹理数据——模型贴图、帧缓冲
- 缓存中间结果——渲染管线里的临时数据
- 交换数据——与CPU进行数据交互
显存的工作原理：一个简单的流程
我画了一张图，帮你理解显存在整个渲染流程中的位置：
你看，数据从CPU出发，经过系统内存，通过PCIe总线，最终到达显存。GPU再从显存里取数据计算。这个路径上任何一个环节慢了，都会拖后腿。
显存 vs 系统内存：到底差在哪？
很多新手会问：「显存和系统内存不都是内存吗？能不能混用？」
嗯，这里要注意——绝对不能混用。我踩过这个坑，有一次项目赶进度，我图省事把纹理数据直接放系统内存里让GPU去读，结果性能直接掉到原来的三分之一。
它们之间的区别，我整理了一张表：
| 对比维度 | 显存 | 系统内存 |
|---|---|---|
| 物理位置 | GPU 核心旁边 | CPU 旁边 |
| 访问延迟 | 极低（纳秒级） | 较高（几十纳秒） |
| 带宽 | 极高（TB/s 级别） | 较低（GB/s 级别） |
| 容量 | 较小（8-48GB） | 较大（16-256GB） |
| 技术类型 | GDDR6 / HBM2e / HBM3 | DDR4 / DDR5 / LPDDR5 |
| 功耗优化 | 高带宽优先 | 低功耗优先 |
小提示：显存带宽的计算公式是：带宽 = 显存频率 × 位宽 ÷ 8。比如一块RTX 4090，显存频率21Gbps，位宽384bit，带宽就是21×384÷8 = 1008 GB/s。这个数字越大，GPU「吃饭」的速度就越快。
显存带宽与容量：两个关键指标
做性能调优，你天天都会跟这两个数字打交道。
带宽：决定「多快」
带宽就是显存和GPU之间的数据传输速率。我习惯把它比作「水管粗细」。水管越粗，单位时间内流过的水越多。
在项目中，我遇到过一种情况：模型推理时，GPU利用率只有60%，但显存带宽利用率已经打满了。这说明什么？说明GPU在等数据，算力被带宽卡住了。这时候你调核心频率没用，得换更高带宽的显存，或者优化数据访问模式。
容量：决定「多大」
容量就是显存能装多少数据。模型参数、中间激活值、梯度，全得塞进去。容量不够怎么办？数据会被换到系统内存里，那速度就断崖式下跌。
我曾经调一个LLM推理任务，显存只有16GB，模型参数14GB，看起来够用对吧？但一跑起来就OOM。后来发现是中间激活值占掉了3GB。这就是典型的「容量陷阱」——你以为够，其实不够。
避坑指南：我曾经在调优时忽略了一个细节——显存带宽和容量是「木桶效应」。带宽再高，容量不够，数据溢出到系统内存，性能直接腰斩。反过来，容量再大，带宽不够，GPU饿着肚子干活，效率也上不去。两个指标必须一起看。
显存类型速览
目前主流的显存技术就三种，我简单列一下：
- GDDR6：最常见，消费级显卡标配。带宽适中，成本低。
- HBM2e / HBM3：高端计算卡用的，比如A100、H100。带宽极高，但容量相对小，成本也高。
- LPDDR5：移动端和部分低功耗设备用。带宽低，但省电。
选型的时候，我个人习惯先看任务类型。如果是训练大模型，优先保证容量；如果是实时渲染，优先保证带宽。
好了，显存的基础就聊到这儿。记住一句话：显存是GPU的命脉，带宽和容量是它的两条腿。哪条腿短了，你都跑不快。