3. 运算速度的度量与瓶颈分析

讨论计算精度与运算速度的权衡，前提是先把“速度”说清楚。很多初学者把速度等同于“跑得快不快”，但在工程实践中，速度是一组彼此关联、甚至互相矛盾的指标。只有先建立正确的度量体系，才能判断一次精度提升究竟付出了多少速度代价，以及这个代价是否值得。

一、四个核心速度指标

时间复杂度描述运算量随问题规模增长的趋势，是算法层面的速度度量。它不关心具体机器，只关心当输入规模 n 增大时，操作次数按什么规律增长。例如矩阵乘法朴素实现为 O(n³)，Strassen 算法约为 O(n^2.807)，而快速傅里叶变换把卷积从 O(n²) 降到 O(n log n)。时间复杂度决定了“规模变大时会不会崩”，是选型的第一道门槛。

延迟（Latency）指单次操作从输入到输出所需的时间，单位通常是纳秒或时钟周期。它关心的是“一件事做完要多久”，对实时控制、交互响应、单条推理等场景至关重要。一次浮点除法在典型 CPU 上的延迟可达十几个周期，而一次浮点加法只需三到四个周期，这个差异在精度敏感的高精度运算中会被放大。

吞吐量（Throughput）指单位时间内能完成的操作数量或数据量，常用 GFLOPS（每秒十亿次浮点运算）、GB/s 表示。它关心的是“一段时间内能干多少活”。吞吐量可以通过流水线、多核并行、向量化来提升，即使单次延迟不变，整体处理能力也能成倍增长。批处理推理、大规模仿真更看重吞吐量而非单次延迟。

能效比指单位能耗所完成的计算量，常用 GFLOPS/W 表示。在移动端、边缘设备和数据中心里，它往往比峰值速度更关键。提高精度（如从 FP16 升到 FP32）通常会让能效比下降，因为更宽的位宽意味着更多的数据搬运和更大的运算单元功耗。

二、用性能剖析定位计算热点

指标只是结果，瓶颈才是原因。性能剖析（Profiling）的任务就是找出程序把时间花在了哪里。常用工具包括 Linux 下的 perf、Intel 的 VTune、NVIDIA 的 Nsight Systems，以及 Python 的 cProfile。基本思路是采样或插桩，统计各函数的耗时占比与调用次数，形成“热点列表”。

一个典型的剖析流程是：先用 perf record -g ./app 采集，再用 perf report 查看火焰图或调用栈，找出占用 CPU 时间最多的函数。若发现某个高精度累加函数占了 60% 的时间，就应优先优化它，而不是去改那些只占 2% 的辅助代码。剖析的价值在于把优化精力投向收益最大的地方，避免凭直觉优化。

三、三类硬件瓶颈

内存带宽是最常见的隐形瓶颈。现代 CPU 的算力增长远快于内存带宽增长，导致很多计算密集型程序实际上受限于“数据搬不过来”。当算术强度（每字节数据参与的运算次数）较低时，程序就是带宽受限的；此时提升精度会同时增加数据量和带宽压力，速度下降可能远超预期。

缓存决定了数据访问的实际代价。L1 缓存访问约几个周期，主存访问则要上百周期。若数据布局不合理、访问模式跳跃，缓存命中率低，再高的主频也发挥不出来。分块（Tiling）技术正是通过提高缓存复用率来缓解这一问题。

指令级并行（ILP）指处理器在同一时刻执行多条相互独立的指令的能力。若代码中存在大量数据依赖（例如连续累加同一个变量），流水线就会停顿，ILP 无法发挥。通过循环展开、拆分累加器、消除假依赖，可以提升指令级并行度，让运算单元保持忙碌。

四、把指标与瓶颈连起来看

剖析得到热点后，下一步是判断它属于哪类瓶颈。一个实用的判据是算术强度：统计该热点每读取一字节数据做了多少次浮点运算。若算术强度远低于机器的“拐点值”（算力除以带宽），说明它是带宽受限的，此时优化方向应是提高数据复用、分块、降低精度以减少数据量；若算术强度很高却仍然慢，则更可能是计算受限或依赖受限，应关注指令级并行和运算单元利用率。

举个教学示例（以下数值为合理假设，用于说明方法而非实测）：某矩阵乘法内核在剖析中占 70% 时间，测得每处理一个 4 字节浮点数只做约 2 次乘加，算术强度约 1 FLOP/Byte，而目标平台算力 100 GFLOPS、带宽 25 GB/s，拐点约 4 FLOP/Byte。由于 1 远小于 4，可判定为带宽受限。此时把数据分块使每块在缓存内被多次复用，或把 FP32 降为 FP16 使数据量减半，都能显著提速；而单纯增加运算单元几乎没有收益。

反过来，若某高精度累加循环算术强度很高但速度上不去，用剖析查看会发现大量时间耗在等待上，原因往往是累加变量存在串行依赖，ILP 无法展开。把单个累加器拆成四个部分和再合并，就能让流水线并行起来。这说明：先度量、再剖析、后判断瓶颈类型，最后才动手优化，是速度分析的正确顺序。精度与速度的权衡，也只有在这个顺序下才能做出有依据的决策。