2. HDR融合基础原理:多帧曝光合成、线性化、对齐、去鬼影的基本概念

高动态范围(HDR)融合是ISP(图像信号处理器)流水线中提升场景动态范围的核心模块。其基本思想是:通过采集同一场景下不同曝光时间的多帧图像,将各帧中曝光良好的区域提取并合成为一帧高动态范围的图像。本章将系统阐述HDR融合的四个基本概念:多帧曝光合成、线性化、对齐与去鬼影。

2.1 多帧曝光合成

单帧传感器的动态范围通常有限(约60-72dB),而真实场景的动态范围可达120dB以上。多帧曝光合成通过融合短、中、长曝光帧来扩展动态范围。

关键流程: 传感器输出三帧(或更多)不同曝光时间的RAW图 → 线性化 → 对齐 → 融合权重计算 → 合成HDR图像。
多帧曝光合成流程 长曝光帧 中曝光帧 短曝光帧 线性化 对齐 去鬼影 HDR合成输出 权重融合策略: 短帧保留高亮细节,长帧保留暗部细节

2.2 线性化

传感器输出的RAW数据通常经过非线性变换(如gamma校正、色调映射),直接融合非线性数据会导致亮度失真和颜色偏差。线性化的目标是将各帧数据恢复到与场景辐照度成正比的线性空间。

工程提示: 在ISP流水线中,线性化通常在RAW域进行,利用传感器标定的响应曲线(LUT)或分段线性模型实现。线性化精度直接影响后续融合的亮度一致性。

2.3 对齐

多帧图像之间由于手持抖动、物体运动或卷帘快门效应存在像素偏移。对齐的目的是消除这些偏移,使各帧在像素级对应。

  • 全局对齐: 基于仿射变换或透视变换,适用于相机平移/旋转。常用方法:特征点匹配(SIFT/ORB) + RANSAC。
  • 局部对齐: 基于光流或块匹配,适用于场景中局部运动区域。常用方法:Lucas-Kanade光流、分层块匹配。
  • 混合对齐: 先全局对齐消除相机运动,再局部对齐处理残留偏移。
对齐方法对比 全局对齐 • 仿射/透视变换 • 特征点匹配 • 适用:相机运动 • 计算量:低 • 精度:中等 局部对齐 • 光流/块匹配 • 逐像素偏移 • 适用:局部运动 • 计算量:高 • 精度:高 混合对齐 • 全局+局部级联 • 先粗后精 • 适用:复杂运动 • 计算量:中高 • 精度:最高

2.4 去鬼影

对齐无法完全消除运动物体(如行人、车辆、树叶晃动)造成的帧间差异,直接融合会产生重影或半透明伪影。去鬼影算法检测运动区域并调整融合权重,避免运动物体被多次叠加。

常见挑战: 运动检测的准确性、运动区域与静止区域的边界处理、大运动物体的拖影抑制。去鬼影不当会导致细节丢失或边缘闪烁。

去鬼影典型流程

  1. 运动检测: 计算参考帧与对齐后帧的差异图(如绝对差、归一化互相关)。
  2. 运动掩膜生成: 对差异图进行阈值分割、形态学滤波,生成二值或连续运动掩膜。
  3. 权重调整: 在运动区域降低非参考帧的融合权重,甚至完全丢弃运动帧。
  4. 融合: 基于调整后的权重进行加权合成。
去鬼影算法流程 参考帧 对齐后帧 运动检测 运动掩膜 权重调整 HDR融合 运动掩膜:白色=运动区域(降低权重) 黑色=静止区域(正常融合)

2.5 融合权重计算

在完成对齐和去鬼影后,需要为每帧的每个像素计算融合权重。常用权重策略包括:

处理阶段 输入数据特性 线性化方法 输出数据特性
RAW域 线性(未处理) 无需线性化 线性
YUV/RGB域 非线性(gamma校正) 逆gamma变换 线性
HDR合成后 线性HDR 色调映射 显示非线性
权重策略 原理 优点 缺点
曝光度权重 根据像素亮度与中间灰度的距离 简单、计算快 忽略纹理信息
对比度权重 根据局部梯度或方差 保留纹理细节 可能放大噪声
饱和度权重 根据颜色饱和度 色彩更鲜艳 对灰度区域无效
运动自适应权重 结合运动掩膜动态调整 有效去鬼影 计算量大
工程实践: 实际ISP方案通常采用多权重融合策略,将曝光度、对比度、运动掩膜等权重相乘后归一化,再通过多尺度金字塔融合(如拉普拉斯金字塔)避免接缝伪影。

2.6 本章小结

HDR融合的核心在于:通过多帧曝光合成扩展动态范围,线性化保证融合的物理正确性,对齐消除帧间偏移,去鬼影抑制运动伪影。这四个环节环环相扣,任何一环的精度不足都会影响最终HDR图像质量。在嵌入式ISP调优中,需要在算法效果与计算资源之间取得平衡,合理选择对齐精度、运动检测阈值和融合策略。