1. 内存带宽基础：什么是内存带宽、计算公式、与延迟的区别
大家好，我是你们的老朋友。今天咱们聊聊内存带宽这个事儿。
做系统性能优化这么多年，我见过太多人把「内存带宽」和「内存延迟」混为一谈。说实话，这俩完全是两码事。你想想看，一条高速公路，车道多宽决定了能同时跑多少车，这叫带宽；而每个车从入口到出口花多长时间，这叫延迟。嗯，就是这么个道理。
1.1 什么是内存带宽
内存带宽，说白了就是内存子系统在单位时间内能传输多少数据。单位通常是 GB/s（每秒千兆字节）。
我在项目中遇到过这样一个场景：一个视频处理管线，CPU 算力明明还有富余，但帧率就是上不去。一查，内存带宽被吃满了。这就是典型的带宽瓶颈——不是算得慢，是数据喂不进去。
核心定义：内存带宽 = 内存控制器与 CPU/GPU 之间数据传输的吞吐能力。
它决定了你的系统能「同时」处理多少数据。比如你同时开十几个虚拟机，或者做大矩阵运算，带宽不够就会卡死。
1.2 内存带宽的计算公式
公式其实很简单，我习惯这么记：
内存带宽 (GB/s) = (内存时钟频率 × 2 × 数据位宽) / 8拆开来看：
- 内存时钟频率：比如 DDR4-3200，这里的 3200 就是有效频率，单位 MHz。
- ×2：因为 DDR（双倍数据速率）在每个时钟周期的上升沿和下降沿都传输数据。
- 数据位宽：通常内存控制器是 64-bit（即 8 字节）。
- /8：把 bit 转成 byte。
举个例子：
DDR4-3200 的理论带宽：
= (3200 × 10^6 × 2 × 64) / 8
= 3200 × 2 × 8
= 51.2 GB/s注意，这是理论峰值。实际能跑到 70%-80% 就算不错了。我曾经调过一套系统，死活只能跑到理论值的 55%，最后发现是 NUMA 节点跨了——数据在远端内存，带宽直接腰斩。
小技巧：用 lshw -class memory 或 dmidecode -t memory 可以查看你机器上内存的实际频率和位宽。
1.3 内存带宽与延迟的区别
这是最容易混淆的地方。我画了一张图，帮你理清思路：
你看，带宽和延迟是两个维度。我举个更具体的例子：
- 带宽瓶颈：你从硬盘拷贝一个大文件，速度上不去。这时候加内存频率、加通道数，立竿见影。
- 延迟瓶颈：你写一个循环，每次只读一个字节，但循环次数上亿。这时候带宽再高也没用，因为每次都在等那几十纳秒的延迟。
注意：很多人以为「内存频率高 = 延迟低」，其实不一定。DDR5 频率比 DDR4 高很多，但延迟（CAS Latency）也变大了。我踩过这个坑——换了高频内存，跑数据库反而慢了，就是因为延迟变高了。
1.4 为什么这两个概念容易混淆？
嗯，这里要讲一个底层原因。现代内存控制器做了很多优化，比如预取、乱序执行、写合并。这些技术让「带宽」和「延迟」在宏观上看起来相关，但微观上完全是两套机制。
我曾经优化过一个 HPC 应用，用 perf stat -e cache-misses,cycles 一跑，发现缓存缺失率很高。我一开始以为是带宽不够，加了两条内存条，结果毫无改善。后来仔细分析，发现是随机访问模式导致的延迟问题——每次访问都 miss，带宽根本没被利用起来。
所以，你优化之前，先问自己一个问题：
我的程序是「搬数据」多，还是「等数据」多？
前者看带宽，后者看延迟。方向错了，优化就是白费力气。
一句话总结：带宽是「水管有多粗」，延迟是「水龙头拧开多久才出水」。两个都要管，但方法不一样。
好了，这一章就到这里。记住这个核心区别，后面我们讲怎么测量、怎么优化，你才不会跑偏。