1. 性能优化总览
做性能优化这么多年，我最大的感触是：没有指标，就没有优化。你想想看，如果连“快”和“慢”的标准都没定下来，怎么知道瓶颈在哪？
这一章，我们先搭好框架。把性能指标、常见瓶颈、优化方法论这三件事理清楚。后面的章节，全是基于这个框架展开的。
1.1 性能指标定义：到底什么算“快”？
人脸识别系统的性能，不能只看一个数字。我习惯把它拆成四个维度：
| 维度 | 核心指标 | 典型要求 | 我的经验 |
|---|---|---|---|
| 延迟 | 单次识别耗时（P50/P99） | P99 < 200ms | P99比平均值重要10倍 |
| 吞吐量 | QPS（每秒查询数） | 单机 > 1000 QPS | 注意区分“识别”和“检测”的QPS |
| 资源效率 | GPU利用率 / 内存占用 | GPU > 70% | 利用率低往往意味着有等待 |
| 准确率 | 识别率 / 误识率 | 识别率 > 99% | 性能优化不能牺牲准确率 |
关键原则：性能优化必须在保证准确率的前提下进行。我曾经见过一个团队，把模型量化到INT4，速度翻了三倍，但识别率掉了5个点——这种优化，说白了是无效的。
1.2 常见瓶颈分类：问题出在哪一层？
人脸识别系统是个典型的“流水线”。从摄像头抓图到返回结果，中间经过好几个环节。每个环节都可能成为瓶颈。
我习惯把瓶颈分成四类：
- 计算瓶颈：模型推理太慢，GPU算力不够。
- I/O瓶颈：图片加载、特征库读取、结果写入太慢。
- 内存瓶颈：特征库太大，内存放不下，频繁换入换出。
- 调度瓶颈：请求排队、线程竞争、锁冲突。
嗯，这里要注意：大部分系统的瓶颈，其实不在计算上。我优化过的项目里，超过60%的瓶颈是I/O和调度问题。很多人一上来就调模型，结果发现瓶颈在数据库查询——这就尴尬了。
避坑指南：我曾经接手过一个项目，识别延迟从200ms优化到180ms，团队花了三周。后来我发现，瓶颈在Nginx的worker_connections配置上。改了一个参数，延迟直接降到120ms。所以，先定位，再优化。
1.3 优化方法论概述：怎么系统地做？
性能优化不是“拍脑袋”改代码。我总结了一套四步法：
- 第一步：定义基线——先跑一遍，拿到当前的延迟、吞吐量、资源利用率。
- 第二步：定位瓶颈——用Profiling工具（如NVIDIA Nsight、perf、火焰图）找到最慢的环节。
- 第三步：制定策略——根据瓶颈类型，选择优化手段（模型剪枝、算子融合、异步I/O、缓存预热等）。
- 第四步：验证效果——对比优化前后的指标，确认没有引入新问题。
说白了，就是先测量，再动手。我见过太多人，上来就改代码，改完发现更慢了——因为没有基线数据。
下面这张图，把整个方法论串起来了：
1.4 优化策略速查：遇到瓶颈怎么办？
不同的瓶颈，有不同的解法。我整理了一个速查表：
| 瓶颈类型 | 常见原因 | 优化手段 | 效果预期 |
|---|---|---|---|
| 计算瓶颈 | 模型太大、算子效率低 | 模型剪枝、量化、算子融合 | 延迟降低30%-70% |
| I/O瓶颈 | 图片解码慢、数据库查询慢 | 异步I/O、缓存、连接池 | 吞吐量提升2-5倍 |
| 内存瓶颈 | 特征库过大、内存泄漏 | 特征压缩、LRU缓存、分片 | 内存占用降低40% |
| 调度瓶颈 | 线程竞争、锁冲突 | 无锁队列、协程、负载均衡 | P99延迟降低50% |
⚠️ 注意：优化手段不是越多越好。我曾经在一个项目里同时用了模型量化、算子融合、异步I/O、缓存预热四种手段。结果性能反而下降了——因为优化之间互相干扰。正确的做法是：一次只改一个变量，验证效果后再改下一个。
1.5 本章小结
这一章，我们把性能优化的“地图”画出来了：
- 指标：延迟、吞吐量、资源效率、准确率——四个维度缺一不可。
- 瓶颈：计算、I/O、内存、调度——大部分问题出在后三个。
- 方法论：定义基线 → 定位瓶颈 → 制定策略 → 验证效果——循环迭代。
后面的章节，我们会深入每一个环节。从模型推理优化，到I/O流水线设计，再到分布式部署。每一步，我都会把踩过的坑、试过的方法、验证过的数据，原原本本地讲给你听。