1. 课程导入
在视频业务从1080p向4K/8K、从30fps向60/120fps、从SDR向HDR快速演进的今天，编码器承担着“画质、码率、算力、延迟”四重约束下的平衡任务。H.265/HEVC相比H.264/AVC，在同等主观质量下通常可节省约40%~50%码率，但代价是编码复杂度显著上升。本课程关注的不是“会不会调用编码器”，而是“如何让H.265在真实业务中跑得更快、压得更小、画质更稳”。
一、学习目标：从“能编”到“编得好、编得快”
本课程围绕四个可衡量的目标展开。第一，理解H.265编码性能的构成，能够区分“编码速度”“吞吐能力”“实时性”与“压缩效率”之间的区别与联系。第二，掌握影响压缩效率的关键工具，包括CTU划分、CU/PU/TU结构、帧内预测、帧间预测、变换量化、环路滤波与熵编码。第三，能够针对点播、直播、会议、监控等不同场景，选择合理的编码配置与优化路径。第四，具备定位性能瓶颈的能力，能够通过日志、码率曲线、QP分布、耗时统计等数据判断问题出在算法、参数还是工程实现。
- 性能维度：编码帧率、单帧耗时、CPU/GPU占用、内存带宽、并发路数。
- 效率维度：BD-Rate、SSIM/PSNR/VMAF、主观质量、码率波动。
- 工程维度：GOP结构、参考帧管理、码控策略、切片与并行、硬件加速。
- 业务维度：首帧延迟、端到端时延、带宽成本、存储成本、功耗。
二、核心概念：性能与效率不是同一个指标
很多初学者把“压缩效率高”等同于“编码性能好”，这是第一个常见误区。压缩效率描述的是“同样画质下码率更低”，而编码性能描述的是“同样硬件下编码更快或并发更多”。两者常常互相制约：开启更精细的RDO、更多参考帧、更深的CU划分，会提升压缩效率，但也会增加计算量。因此，优化的本质是在约束条件下寻找帕累托最优。
第二个核心概念是“率失真优化”。H.265编码器在每一个编码决策点上，通常比较的是代价函数 J = D + λR，其中D是失真，R是码率，λ是拉格朗日乘子。λ与QP相关，QP越大，码率权重越低，编码越倾向于省码率。理解λ与QP的关系，是理解码控与画质取舍的基础。
第三个核心概念是“块结构”。H.265用CTU替代H.264的宏块，CTU可递归划分为CU，CU再划分为PU和TU。CTU越大，越适合高分辨率平坦区域；CTU越小，越适合复杂纹理与运动区域。编码器性能优化中，大量工作都围绕“如何减少不必要的划分搜索”展开。
三、方法流程：从基线测量到迭代优化
性能优化不能靠“拍脑袋改参数”。推荐遵循以下流程：先建立基线，再定位瓶颈，然后做单变量实验，最后回归验证。基线测量要固定输入序列、分辨率、帧率、目标码率、编码器版本与硬件环境，记录编码帧率、平均QP、实际码率、PSNR/SSIM/VMAF以及各模块耗时占比。只有基线稳定，后续优化才有可比性。
- 建立基线：使用标准序列（如BasketballDrive、BQTerrace）或业务真实片源，记录默认preset下的性能与质量数据。
- 定位瓶颈：通过编码器日志或性能剖析工具，判断耗时集中在运动估计、RDO、变换量化还是熵编码。
- 单变量实验：每次只调整一个参数或一个算法开关，观察BD-Rate与编码帧率的变化。
- 回归验证：在多个序列、多个码率点、多个场景上验证，避免过拟合到单一素材。
- 固化配置：将验证有效的参数组合写入业务配置模板，并保留回滚方案。
四、案例与场景：不同业务的最优解不同
以直播场景为例，首帧延迟和端到端时延是硬约束，通常采用较短的GOP、关闭B帧或限制B帧数量、使用低延迟码控，并开启Slice并行以利用多核。此时压缩效率会有所牺牲，但换来了实时性。点播场景则相反，可以使用层级B帧、更多参考帧、更精细的RDO，追求更高压缩效率，编码慢一点可以接受。会议场景强调低码率下的稳定性，需要关注码控收敛速度与丢包恢复能力。监控场景则更关注长期存储成本与运动检测区域的画质保持。
| 场景 | 关键约束 | 优先优化方向 | 常见取舍 |
|---|---|---|---|
| 直播 | 低延迟、高并发 | Slice/Tile并行、低延迟码控、短GOP | 牺牲部分B帧压缩收益 |
| 点播 | 高压缩效率、高画质 | 层级B帧、精细RDO、多参考帧 | 编码耗时增加 |
| 会议 | 低码率、抗丢包 | 码控稳定性、错误恢复、ROI | 降低运动搜索范围 |
| 监控 | 存储成本、长时稳定 | 智能码控、背景建模、低帧率 | 非关注区域降质 |
五、误区与复盘：避免“参数堆砌式优化”
复盘时建议回答三个问题：这次优化改变了哪个指标？代价是什么？在哪些场景下不适用？只有把“收益—代价—边界”说清楚，优化才算真正完成。本课程后续章节将沿着“基础概念—参数调优—算法加速—工程落地—度量闭环”的路径逐步展开，帮助你把H.265编码器从“能跑”调到“跑得稳、压得小、画质好”。
# 基线测量示例（伪命令）
ffmpeg -s 1920x1080 -r 30 -i input.yuv \
-c:v libx265 -preset medium -b:v 4M -x265-params "log-level=2:psnr=1:ssim=1" \
-f null - 2> baseline.log
# 关注指标
# encoded frames / time → 编码帧率
# avg QP → 量化强度
# bitrate → 实际码率
# PSNR / SSIM → 客观质量