带宽测试原理：理论带宽 vs 实际带宽
大家好，我是你们的GPU工程师。今天我们来聊聊带宽测试最核心的东西——带宽计算公式。
说白了，带宽就是「单位时间内能传多少数据」。公式特别简单：
Bandwidth = (Bytes) / (Time)
带宽 = 传输的数据量 ÷ 花费的时间
嗯，就这么直白。但真正用起来，你会发现事情没那么简单。
理论带宽：显卡的「纸面实力」
理论带宽，就是显卡厂商写在宣传页上的那个数字。比如一张RTX 3090，显存带宽标称是936 GB/s。这个数字怎么来的？
公式是这样的：
理论带宽 = 显存频率 × 显存位宽 × 显存类型系数
举个例子：
GDDR6X 显存，频率 1219 MHz，位宽 384-bit
系数：GDDR6X 是 8（因为双倍数据率 × 4 个bank组）
理论带宽 = 1219 × 10^6 × (384 / 8) × 8
= 1219 × 10^6 × 48 × 8
≈ 936 GB/s我刚开始做GPU驱动时，看到这个数字总觉得很厉害。但实际一测，发现根本跑不到这个值。为什么会这样？
实际带宽：你真正能拿到的
实际带宽，就是你写个CUDA程序，从显存里读一批数据，算一下花了多少时间，然后除出来的结果。
我举个例子。你写个简单的带宽测试：
cudaMemcpy(d_data, h_data, size, cudaMemcpyHostToDevice);
// 这里计时
for (int i = 0; i < N; i++) {
kernel<<<blocks, threads>>>(d_data, size);
}
// 结束计时
// 带宽 = (size × N) / 总时间跑出来的结果，往往只有理论带宽的60%~80%。
注意：实际带宽永远小于理论带宽。如果哪个工具告诉你测出了超过理论带宽的值，那一定是代码写错了。
为什么会有差距？
我个人习惯把原因归纳为三类：
- 协议开销——显存控制器、总线协议本身就要消耗一些时钟周期
- 访存模式——你的数据是不是连续存放的？有没有对齐？
- 硬件限制——比如ECC开启后，会吃掉一部分带宽
我在项目中遇到过一件事：某次做视频编解码加速，理论带宽800 GB/s，实际只能跑到450 GB/s。查了半天，发现是显存ECC默认开启了。关掉ECC后，直接飙到620 GB/s。嗯，这个坑我踩过，你们记住。
一张图看懂带宽测试的核心逻辑
下面我用SVG画了个流程图，帮你理清思路：
理论带宽 vs 实际带宽：一张表说清楚
| 对比项 | 理论带宽 | 实际带宽 |
|---|---|---|
| 定义 | 硬件规格上限 | 程序实测结果 |
| 计算方式 | 频率 × 位宽 × 系数 | Bytes / Time |
| 影响因素 | 几乎无 | 协议、访存模式、ECC等 |
| 典型比值 | 100% | 60%~85% |
| 用途 | 选卡参考 | 性能调优依据 |
小技巧：我一般用理论带宽的75%作为「及格线」。如果实际带宽低于这个值，说明你的访存模式可能有问题，或者代码没写好。
避坑指南
我曾经犯过一个低级错误：用 cudaEvent 计时时，忘了同步。结果测出来的时间偏小，带宽算出来比理论值还高。当时我还挺高兴，以为优化到位了。后来发现是计时方式不对。
所以记住：
- 计时前一定要
cudaDeviceSynchronize() - 多次测量取平均值
- 排除第一次的「热身」数据
你想想看，如果连带宽都测不准，后面做优化就是瞎忙活。嗯，这个道理我吃了亏才明白。
好了，带宽测试的原理就这些。公式很简单，但背后的门道不少。下一节我们会实际动手写代码，看看怎么在CUDA里准确测量带宽。
想要更多资料，联系可可