1. ISP 概述:RK平台ISP架构简介、ISP Pipeline基本流程、RAW图与YUV概念

1.1 RK平台ISP架构简介

Rockchip(瑞芯微)平台集成的 ISP(Image Signal Processor,图像信号处理器)是一个专用的硬件处理单元,负责将图像传感器(Sensor)输出的原始RAW数据转换为高质量的YUV或RGB图像。RK ISP 架构通常采用 “Sensor + ISP + CPU/GPU/NPU” 的协同工作模式,ISP 作为图像质量的“第一道关卡”,其性能直接影响后续的编码、显示和智能分析效果。

架构特点: RK ISP 支持多路 Sensor 输入、3A(AE/AWB/AF)统计引擎、多级降噪、宽动态(HDR)融合以及灵活的参数调节接口,是嵌入式视觉系统的核心组件。
RK ISP 硬件架构框图 RK ISP 硬件架构框图 图像传感器 MIPI Rx ISP Core 3A 统计引擎 DDR 内存 说明:ISP Core 负责图像处理流水线,3A 引擎提供统计反馈,DDR 用于存储 RAW/YUV 帧数据

1.2 ISP Pipeline 基本流程

ISP Pipeline 是一个从 RAW 图输入到 YUV 图输出的完整处理链条。RK ISP 的典型流水线包含以下关键阶段:

阶段 功能描述 输入/输出
BLC 黑电平校正,消除传感器暗电流噪声 RAW → RAW
LSC 镜头阴影校正,补偿镜头边缘亮度衰减 RAW → RAW
DPC 坏点校正,修复传感器缺陷像素 RAW → RAW
Demosaic 去马赛克,将 Bayer RAW 插值为 RGB RAW → RGB
AWB 自动白平衡,校正色温偏差 RGB → RGB
CCM 颜色校正矩阵,还原真实色彩 RGB → RGB
Gamma Gamma 校正,调整亮度响应曲线 RGB → RGB
YUV 转换 RGB 转 YUV 色彩空间,便于编码和显示 RGB → YUV
调试要点: 参数调试通常遵循“先 RAW 域,后 RGB/YUV 域”的原则。RAW 域参数(BLC、LSC、DPC)影响基础信噪比,RGB/YUV 域参数(AWB、CCM、Gamma)影响色彩和观感。
ISP Pipeline 基本流程图 ISP Pipeline 基本流程图 RAW 输入 BLC LSC DPC Demosaic AWB CCM Gamma YUV 输出 说明:RAW 域处理(BLC/LSC/DPC)→ RGB 域处理(Demosaic/AWB/CCM)→ Gamma → YUV 输出 虚线表示 CCM 输出后进入 Gamma 校正,再转换为 YUV 色彩空间

1.3 RAW 图与 YUV 概念

1.3.1 RAW 图

RAW 图是图像传感器直接输出的原始数据,每个像素只包含一种颜色分量(R、G 或 B),排列成 Bayer 模式。RAW 图保留了最完整的传感器信息,但无法直接显示,必须经过 ISP 处理。

  • 位深: 通常为 10bit、12bit 或 14bit,比 8bit YUV 包含更丰富的亮度层次。
  • 数据量: 单像素仅 1 个颜色通道,原始数据量约为同等分辨率 YUV 的 1/3。
  • 调试价值: RAW 图是 ISP 参数调试的起点,通过分析 RAW 图可以评估传感器噪声、坏点、阴影等底层问题。

1.3.2 YUV 图

YUV 是一种亮度-色度分离的色彩空间,Y 分量表示亮度(Luma),U 和 V 分量表示色度(Chroma)。YUV 是 ISP 处理后的标准输出格式,广泛用于视频编码、显示和传输。

  • Y 分量: 决定图像的明暗细节,人眼对 Y 分量最敏感。
  • UV 分量: 决定图像的色彩信息,通常进行亚采样(如 NV12、NV21 格式)以节省带宽。
  • 调试价值: YUV 图是 ISP 最终效果的验证依据,通过 YUV 可以评估色彩还原、白平衡、降噪和锐化效果。
对比项 RAW 图 YUV 图
数据来源 传感器直接输出 ISP 处理后输出
色彩空间 Bayer RAW(单通道) YUV(亮度+色度)
位深 10~14bit 8~10bit
可显示性 不可直接显示 可直接显示/编码
调试用途 评估传感器噪声、坏点、黑电平 评估色彩、白平衡、降噪、锐化
常见误区: 不要直接用 RAW 图做色彩评价,RAW 图未经白平衡和颜色校正,色偏是正常的。YUV 图才是 ISP 调试的最终效果验证对象。
RAW 图与 YUV 图概念对比 RAW 图与 YUV 图概念对比 RAW 图(Bayer 模式) R G G B 每个像素仅包含一种颜色分量 YUV 图(NV12 格式) Y 亮度平面 UV 色度平面 亮度与色度分离,支持亚采样 ISP 处理 核心区别:RAW 是“未处理”的传感器数据,YUV 是“已处理”的显示/编码数据