1. 课程导论
1.1 NVMe 协议的革命性突破
NVMe（Non-Volatile Memory Express）协议专为基于 PCIe 的闪存存储设计，彻底摒弃了传统 AHCI 协议时代的机械硬盘适配逻辑。NVMe 通过以下关键设计实现了数量级的延迟降低与 IOPS 提升：
- 多队列并行：支持最多 64K 个 IO 提交/完成队列对，每个队列深度可达 64K，消除单队列锁竞争。
- 中断聚合：支持可编程中断合并，减少 CPU 中断频率，提升吞吐。
- 精简指令集：命令执行路径仅需 2 次 MMIO 寄存器访问（提交门铃 + 完成门铃），远少于 AHCI 的 6 次。
- 端到端数据保护：支持 T10 DIF/DIX 保护信息，保障数据完整性。
关键指标对比： 单块 NVMe SSD 的 4K 随机读 IOPS 可达 1,000,000+，延迟低至 10μs 级别，而 SATA SSD 通常仅 100,000 IOPS 和 100μs 延迟。
1.2 NVMe SSD 性能特征全景
NVMe SSD 的性能特征与传统 HDD 及 SATA SSD 存在本质差异，理解这些差异是 IO 调度器调优的前提：
| 性能维度 | HDD (15K RPM) | SATA SSD | NVMe SSD |
|---|---|---|---|
| 典型 IOPS (4K 随机读) | ~200 | ~100,000 | ~1,000,000 |
| 典型 IOPS (4K 随机写) | ~200 | ~80,000 | ~700,000 |
| 平均延迟 (读) | ~4ms | ~100μs | ~10μs |
| 平均延迟 (写) | ~4ms | ~30μs | ~10μs |
| 队列深度 | 1 (NCQ 32) | 32 | 64K |
| IO 路径软件开销占比 | < 1% | ~10% | ~50% |
调优启示： NVMe SSD 的 IO 路径中，软件开销（包括 IO 调度器决策、中断处理、上下文切换）占比显著上升。这意味着调度器参数微调对最终性能的影响远大于传统存储场景。
1.3 IO 调度器在 NVMe 场景下的角色演变
传统 IO 调度器（如 CFQ、Deadline）的核心目标是：合并相邻请求 和 公平分配带宽。然而，NVMe SSD 的纳秒级寻址和极高并发能力，使得这些传统机制可能成为性能瓶颈：
- 合并开销：NVMe SSD 无需磁头寻道，请求合并带来的收益极小，反而增加 CPU 开销。
- 公平调度：多队列并行能力使得公平性可由硬件队列直接实现，软件调度反而引入延迟。
- 中断处理：高 IOPS 场景下，传统调度器的中断处理路径可能成为瓶颈。
Linux 内核从 5.0 版本开始引入 多队列块层（Multi-Queue Block Layer, blk-mq），并提供了专为 NVMe 优化的调度器：
| 调度器 | 设计目标 | NVMe 适用性 | 典型场景 |
|---|---|---|---|
| none | 零开销直通 | ★★★★★ | 纯吞吐场景、数据库 |
| mq-deadline | 延迟边界 + 请求合并 | ★★★★☆ | 混合读写、QoS 敏感 |
| kyber | 基于延迟的拥塞控制 | ★★★★☆ | 延迟敏感、云原生 |
| bfq | 公平带宽分配 | ★★☆☆☆ | 桌面、多租户 |
1.4 NVMe IO 路径与调度器交互架构
下图展示了 NVMe 驱动、blk-mq 层与 IO 调度器的协作关系：
1.5 调优的重要性：从微观到宏观
NVMe SSD 场景下的 IO 调度器调优，其重要性体现在以下三个层面：
- 微观延迟优化：不当的调度策略可能引入 5-20μs 的额外延迟，对于 10μs 级别的 NVMe 设备，这相当于 50%-200% 的性能损失。
- 宏观吞吐提升：通过调整队列深度、合并阈值、分片参数，可以在多核 CPU 上实现线性扩展，充分发挥 NVMe 的百万级 IOPS 能力。
- 资源隔离与 QoS：在混合负载场景（如数据库 + 日志 + 监控），合理的调度器参数可以保障关键业务的延迟 SLO，避免“吵闹邻居”效应。
常见误区： 很多运维人员认为 NVMe SSD 性能足够强，不需要 IO 调度器调优。实际上，在 1M+ IOPS 的高压场景下，调度器参数配置不当可能导致 CPU 软锁、IO 延迟抖动、甚至触发内核 hung task 检测。
1.6 本课程覆盖的核心参数与目标
本课程将深入讲解以下关键调度器参数的调优方法：
| 参数类别 | 代表参数 | 影响范围 | 调优目标 |
|---|---|---|---|
| 队列深度 | queue_depth |
吞吐 / 延迟 | 找到最佳并发度 |
| 合并策略 | nomerges |
CPU 开销 / 延迟 | NVMe 场景建议关闭 |
| 分片参数 | nr_requests |
内存占用 / 吞吐 | 匹配设备队列深度 |
| 调度器特定 | fifo_batch (mq-deadline) |
写延迟 / 读延迟 | 平衡读写 QoS |
| 中断聚合 | interrupt_coalescing |
CPU 利用率 / 延迟 | 高 IOPS 场景开启 |