2. HDR融合基础原理:多帧曝光合成、线性化、对齐、去鬼影的基本概念
高动态范围(HDR)融合是ISP(图像信号处理器)流水线中提升场景动态范围的核心模块。其基本思想是:通过采集同一场景下不同曝光时间的多帧图像,将各帧中曝光良好的区域提取并合成为一帧高动态范围的图像。本章将系统阐述HDR融合的四个基本概念:多帧曝光合成、线性化、对齐与去鬼影。
2.1 多帧曝光合成
单帧传感器的动态范围通常有限(约60-72dB),而真实场景的动态范围可达120dB以上。多帧曝光合成通过融合短、中、长曝光帧来扩展动态范围。
关键流程: 传感器输出三帧(或更多)不同曝光时间的RAW图 → 线性化 → 对齐 → 融合权重计算 → 合成HDR图像。
2.2 线性化
传感器输出的RAW数据通常经过非线性变换(如gamma校正、色调映射),直接融合非线性数据会导致亮度失真和颜色偏差。线性化的目标是将各帧数据恢复到与场景辐照度成正比的线性空间。
| 处理阶段 |
输入数据特性 |
线性化方法 |
输出数据特性 |
| RAW域 |
线性(未处理) |
无需线性化 |
线性 |
| YUV/RGB域 |
非线性(gamma校正) |
逆gamma变换 |
线性 |
| HDR合成后 |
线性HDR |
色调映射 |
显示非线性 |
工程提示: 在ISP流水线中,线性化通常在RAW域进行,利用传感器标定的响应曲线(LUT)或分段线性模型实现。线性化精度直接影响后续融合的亮度一致性。
2.3 对齐
多帧图像之间由于手持抖动、物体运动或卷帘快门效应存在像素偏移。对齐的目的是消除这些偏移,使各帧在像素级对应。
- 全局对齐: 基于仿射变换或透视变换,适用于相机平移/旋转。常用方法:特征点匹配(SIFT/ORB) + RANSAC。
- 局部对齐: 基于光流或块匹配,适用于场景中局部运动区域。常用方法:Lucas-Kanade光流、分层块匹配。
- 混合对齐: 先全局对齐消除相机运动,再局部对齐处理残留偏移。
2.4 去鬼影
对齐无法完全消除运动物体(如行人、车辆、树叶晃动)造成的帧间差异,直接融合会产生重影或半透明伪影。去鬼影算法检测运动区域并调整融合权重,避免运动物体被多次叠加。
常见挑战: 运动检测的准确性、运动区域与静止区域的边界处理、大运动物体的拖影抑制。去鬼影不当会导致细节丢失或边缘闪烁。
去鬼影典型流程
- 运动检测: 计算参考帧与对齐后帧的差异图(如绝对差、归一化互相关)。
- 运动掩膜生成: 对差异图进行阈值分割、形态学滤波,生成二值或连续运动掩膜。
- 权重调整: 在运动区域降低非参考帧的融合权重,甚至完全丢弃运动帧。
- 融合: 基于调整后的权重进行加权合成。
2.5 融合权重计算
在完成对齐和去鬼影后,需要为每帧的每个像素计算融合权重。常用权重策略包括:
| 权重策略 |
原理 |
优点 |
缺点 |
| 曝光度权重 |
根据像素亮度与中间灰度的距离 |
简单、计算快 |
忽略纹理信息 |
| 对比度权重 |
根据局部梯度或方差 |
保留纹理细节 |
可能放大噪声 |
| 饱和度权重 |
根据颜色饱和度 |
色彩更鲜艳 |
对灰度区域无效 |
| 运动自适应权重 |
结合运动掩膜动态调整 |
有效去鬼影 |
计算量大 |
工程实践: 实际ISP方案通常采用多权重融合策略,将曝光度、对比度、运动掩膜等权重相乘后归一化,再通过多尺度金字塔融合(如拉普拉斯金字塔)避免接缝伪影。
2.6 本章小结
HDR融合的核心在于:通过多帧曝光合成扩展动态范围,线性化保证融合的物理正确性,对齐消除帧间偏移,去鬼影抑制运动伪影。这四个环节环环相扣,任何一环的精度不足都会影响最终HDR图像质量。在嵌入式ISP调优中,需要在算法效果与计算资源之间取得平衡,合理选择对齐精度、运动检测阈值和融合策略。