4. H265编码架构总览

理解H.265/HEVC编码器，不能只盯着某一个算法模块，而要先建立“整机视角”：一帧原始视频从进入编码器到变成可传输的码流，中间经历了哪些阶段、各阶段之间传递什么数据、模块边界在哪里。只有把整体架构和数据流看清楚，后续学习CTU划分、帧内预测、运动估计、变换量化、熵编码和码率控制时，才能知道每个知识点在系统中的位置与作用。

一、编码器整体流程：从YUV输入到HEVC码流输出

H.265编码器本质上是一个“预测—残差—变换—量化—熵编码”的闭环系统。输入通常是YUV420格式的原始帧序列，编码器按帧或按片（Slice）处理，并以CTU（编码树单元）为基本处理单元向下递归划分。整体流程可以概括为：

1. 输入与预处理：接收YUV帧，完成帧重排、色彩空间确认、位深对齐，并按编码顺序送入编码流水线。
2. 分块与划分：将一帧划分为CTU，再按四叉树递归划分为CU、PU、TU，确定预测与变换的基本粒度。
3. 预测：帧内预测利用当前帧已重建像素生成预测块；帧间预测通过运动估计与运动补偿，从参考帧中获取预测块。
4. 残差与变换：原始块减去预测块得到残差，经DCT/DST变换到频域，再量化，压缩高频与视觉不敏感信息。
5. 熵编码：量化后的系数、划分信息、预测模式、运动矢量等语法元素，经CABAC上下文自适应二进制算术编码写入码流。
6. 重建环路：量化系数反量化、反变换后加回预测块，再经去块滤波（DBF）、样点自适应偏移（SAO）等环路滤波，形成参考帧，供后续帧间预测使用。

这个闭环结构决定了H.265编码器不是单向流水线，而是“编码—重建—参考”相互依赖的系统。编码端必须与解码端保持一致的参考帧生成逻辑，否则会出现漂移。

二、输入输出接口：编码器与外部系统的边界

从工程实现看，H.265编码器通常以库或服务形式存在，对外暴露的接口可分为输入接口、输出接口和控制接口三类。

接口类型	典型内容	说明
输入接口	YUV帧、时间戳、帧类型、分辨率、位深	按帧送入，需保证YUV排列与步长正确
输出接口	NALU码流、SPS/PPS/VPS、SEI、统计信息	输出符合HEVC Annex B或AVCC格式
控制接口	码率、QP、GOP、帧率、参考帧数、线程数	决定编码速度、质量与延迟的平衡
反馈接口	编码帧数、码率、PSNR/SSIM、缓冲区状态	用于码率控制与质量监控

以FFmpeg调用libx265为例，典型配置如下：

ffmpeg -s 1920x1080 -pix_fmt yuv420p -r 30 -i input.yuv \
  -c:v libx265 -preset medium -x265-params \
  "keyint=60:min-keyint=30:bframes=3:bitrate=4000:rc-lookahead=20" \
  -f hevc output.h265

其中keyint控制GOP长度，bframes影响B帧数量，rc-lookahead决定码率控制前瞻深度。这些参数直接作用于编码器内部模块的调度策略。

三、主要模块划分：编码器内部的功能单元

一个典型的H.265编码器可划分为以下核心模块：

• 帧管理模块：负责输入帧队列、参考帧列表（RPL）、DPB（解码图像缓冲区）管理，决定帧的编码顺序与参考关系。
• 划分决策模块：完成CTU到CU/PU/TU的递归划分，结合率失真优化（RDO）选择最优划分深度。
• 帧内预测模块：提供35种帧内预测模式，计算SATD/RD代价，选择最优模式。
• 帧间预测模块：包含运动估计（ME）与运动补偿（MC），支持Merge、AMVP、仿射运动等模式。
• 变换量化模块：执行DCT/DST变换、量化、扫描，输出量化系数。
• 熵编码模块：基于CABAC对语法元素进行上下文建模与算术编码。
• 环路滤波模块：包括去块滤波、SAO，必要时还有ALF，用于提升重建质量。
• 码率控制模块：根据目标码率与缓冲区状态，动态调整QP与拉格朗日乘子。

四、数据流与信号链：一帧数据在编码器中的旅程

下面用一张信号链/数据流图展示H.265编码器的主要模块与数据流向。图中区分了前向编码路径与重建反馈路径，便于理解闭环结构。

从图中可以看到，编码器存在两条关键路径：一条是前向路径，从YUV输入经预测、残差、变换量化到熵编码输出码流；另一条是反馈路径，从量化系数反量化、反变换、环路滤波到重建帧，再写回DPB作为后续帧的参考。码率控制模块则横跨两条路径，通过调整QP和拉格朗日乘子影响量化与RDO决策。

五、案例与场景：一次1080p直播编码的模块协作

假设一路1080p30直播流，目标码率4Mbps，GOP为60，使用B帧。编码器的工作过程如下：

1. 帧管理模块接收YUV帧，按显示顺序缓存，并根据GOP结构重排为编码顺序。
2. 对I帧，帧内预测模块遍历35种模式，划分决策模块递归评估CU深度，选择RD代价最小的组合。
3. 对P/B帧，帧间预测模块先在参考帧中做运动估计，得到运动矢量与残差，再与帧内模式比较，决定最终预测方式。
4. 变换量化模块对残差做DCT/DST与量化，熵编码模块将量化系数、MV、划分标志等写入码流。
5. 重建路径同步生成重建帧，经DBF和SAO滤波后写入DPB，供后续帧参考。
6. 码率控制模块根据缓冲区状态和实际输出码率，动态调整下一帧的QP，避免码率波动过大。

六、常见误区与复盘

• 误区一：把编码器当成单向流水线。实际上重建环路是编码器不可分割的一部分，参考帧质量直接影响后续帧的预测效率。
• 误区二：只关注熵编码而忽视划分决策。CTU划分和预测模式选择对码率的影响往往比熵编码更大，RDO才是编码器的“大脑”。
• 误区三：认为QP越低越好。QP过低会导致码率飙升，甚至超出缓冲区；QP过高则画质下降。码率控制的目标是在约束下求最优。
• 误区四：忽略输入接口的YUV对齐。步长、位深、色彩范围不一致会导致编码器读取错误，出现花屏或颜色异常。

复盘时建议按“输入—划分—预测—变换—熵编码—重建—输出”的顺序逐段排查，先确认数据流是否完整，再定位具体模块的性能瓶颈。只有把整体架构和数据流理解清楚，后续深入H.265的各个算法模块时，才能做到心中有图、手中有数。