2. 自动驾驶数据基础
自动驾驶系统的感知、预测与决策能力，本质上建立在对多源传感器数据的理解之上。训练数据治理的第一步，不是清洗或标注，而是准确认识“数据从哪里来、长什么样、有多大、在什么条件下产生”。本章围绕传感器类型、数据格式、数据规模、采集场景与常见术语五个维度，建立后续治理工作的共同语言。
一、核心原理：多传感器互补构成环境感知底座
单一传感器无法同时满足测距精度、语义丰富度、全天候适应性与成本约束，因此量产与研发平台普遍采用多传感器融合方案。摄像头提供稠密纹理与颜色信息，擅长识别车道线、交通标志、信号灯和行人外观；激光雷达输出三维点云，提供精确距离与几何轮廓；毫米波雷达对速度敏感、穿透雨雾能力强，常用于目标跟踪与测速；IMU与GNSS组合提供车辆位姿、速度与绝对定位；超声波雷达则覆盖近距离泊车场景。
这些传感器在时间同步、空间标定和坐标系转换后，才能形成统一的环境表达。数据治理中必须保留原始时间戳、标定参数和外参矩阵，否则后续融合与回放将失去物理意义。
二、数据格式：从原始信号到可治理资产
不同传感器输出的数据格式差异很大，治理系统需要按类型建立解析、校验与存储规范。图像数据常见JPEG、PNG等压缩格式，视频流则使用H.264或H.265编码；点云数据常见PCD、PLY、LAS以及KITTI的bin格式；标注结果通常以JSON、XML或Protobuf组织，大规模训练集则倾向Parquet、TFRecord等列式或序列化格式以提升读取效率。
治理中要特别关注三类元数据：时间戳、标定参数和采集配置。时间戳决定多传感器对齐质量，标定参数决定空间融合是否正确，采集配置则记录分辨率、帧率、曝光、激光雷达线数等关键参数。缺少这些信息，数据即使被标注也难以复现和审计。
{
"frame_id": "2024-06-12T08:31:22.145Z",
"camera": {
"width": 1920, "height": 1080,
"format": "jpeg", "fps": 30,
"intrinsic": [1200.5, 0, 960, 0, 1200.5, 540, 0, 0, 1]
},
"lidar": {
"format": "pcd", "channels": 64,
"points": 128000, "timestamp_offset_us": 12
},
"calibration_version": "calib_2024_06_v3"
}三、数据规模：从单车采集到车队级数据湖
自动驾驶数据规模通常以“车·天”或“PB级”衡量。一辆测试车每天可产生数TB原始数据，其中激光雷达点云和视频流占主要部分。若车队规模达到数百辆，日增数据可达PB级。治理系统必须回答：哪些数据需要长期保留，哪些可以降采样或过期删除，哪些需要优先标注。
| 数据类型 | 典型单帧/单秒规模 | 治理关注点 |
|---|---|---|
| 摄像头图像 | 1920×1080 JPEG 约 200–500 KB/帧 | 分辨率、帧率、曝光、去重 |
| 激光雷达点云 | 64线约 1–3 MB/帧 | 点云完整性、时间偏移、运动畸变 |
| 毫米波雷达 | 数十 KB/帧 | 目标列表、速度、角度、跟踪ID |
| IMU/GNSS | 数百 KB/分钟 | 频率、漂移、失锁、坐标系 |
| 标注结果 | 随目标数量变化 | 类别体系、框质量、一致性 |
四、采集场景与常见术语
采集场景直接决定数据分布。常见场景包括城市道路、高速、匝道、隧道、地下车库、乡村道路、雨雾雪天气、夜间、逆光、施工区、拥堵跟车、无保护左转等。治理时需要为每段数据打上场景标签，否则模型评估会出现“看似随机、实则偏置”的问题。
常见术语速查：
- 帧（Frame）：某一时刻的传感器采样单元，是多传感器对齐的基本单位。
- 时间戳（Timestamp）：数据采集时刻，需区分传感器硬件时间与系统时间。
- 标定（Calibration）：确定传感器内外参的过程，分为内参、外参与时间标定。
- 点云（Point Cloud）：激光雷达输出的三维点集合，常含强度与环号。
- 语义分割（Semantic Segmentation）：对每个像素或点赋予类别标签。
- 3D目标框（3D Bounding Box）：描述目标在三维空间中的位置、尺寸与朝向。
- 场景标签（Scenario Tag）：对采集片段的环境、天气、道路结构等属性的描述。
- 数据湖（Data Lake）：集中存储原始与加工数据的系统，强调可追溯与可扩展。
实践建议：在采集阶段就写入场景标签、标定版本和车辆配置，比后期补录成本低得多。治理系统应把“元数据完整性”作为数据入库的硬门槛。
常见误区：只关注数据量而忽略场景覆盖，会导致模型在长尾场景中失效；只保留标注结果而丢弃原始数据，会导致无法复现和重新标注；忽略时间戳与标定版本，会使多传感器融合数据在回放时出现错位。