2. 自动驾驶数据基础

在自动驾驶车队的数据回流与版本管理工程中,所有后续的采集、上传、标注、训练与回灌,都建立在对“数据本身”的准确理解之上。如果对传感器数据类型、采集频率、数据量级、数据格式与存储介质缺乏清晰认知,就会出现采样配置不合理、存储成本失控、回流链路拥塞、版本对不齐等连锁问题。本章从工程视角梳理这五个基础维度,并给出可落地的参数参考与判断方法。

一、核心原理:五维度共同决定数据资产形态

自动驾驶数据不是单一文件,而是由多传感器在同一时间轴上协同产生的“数据包”。理解它需要同时看五个维度:类型决定语义与处理方式,频率决定时间分辨率与数据量,量级决定存储与传输预算,格式决定读写效率与工具链兼容性,介质决定耐久性与成本。五者相互约束:提高频率会放大数据量,改变格式会影响压缩率,更换介质会影响写入寿命。工程上必须把它们作为一个整体来配置,而不是孤立调参。

自动驾驶数据五维度关系图 类型 · 频率 · 量级 · 格式 · 介质 相互约束,共同决定数据资产形态 数据包 同一时间轴协同 多传感器融合单元 ① 数据类型 相机 / 激光雷达 / 毫米波 IMU / GNSS / 轮速 / 底盘 ② 采集频率 相机 10–30 Hz IMU 100–1000 Hz ③ 数据量级 单车 1–4 TB / 天 车队 PB 级 / 月 ④ 数据格式 rosbag / MCAP / HDF5 JPEG / PNG / PCD / Parquet ⑤ 存储介质 车载 NVMe / 对象存储 冷热分层 · 生命周期 语义约束 时间约束 预算约束 效率约束 耐久约束

二、传感器数据类型与采集频率

主流自动驾驶车队通常搭载以下几类传感器,它们的数据类型与典型频率差异很大:

  • 相机(Camera):输出图像帧,前视常用 1920×1080 或 3840×2160,频率 10–30 Hz,多路环视可达 6–12 路。
  • 激光雷达(LiDAR):输出三维点云,机械式 10–20 Hz,半固态 10–20 Hz,单帧点数 5 万–30 万。
  • 毫米波雷达(Radar):输出目标列表与原始回波,频率 10–20 Hz,数据量相对小。
  • IMU / GNSS:IMU 100–1000 Hz,GNSS 1–10 Hz,用于定位与时间同步。
  • 底盘与轮速:CAN 总线信号,频率 50–100 Hz,用于车辆状态估计。

频率选择的核心原则是“满足算法需求的最小充分采样”。例如感知模型训练通常需要 10 Hz 以上的图像序列,而定位融合对 IMU 频率要求更高。频率过高会带来数据量激增,频率过低则可能丢失关键动态信息。

三、数据量级与存储介质

数据量级是车队数据工程中最容易被低估的部分。以一辆车为例,若配置 8 路 1080p 相机(30 Hz)、1 台 128 线激光雷达(10 Hz)、1 套 IMU(200 Hz),连续采集 8 小时,原始数据量约为 1–4 TB。若车队规模为 100 辆,每天产生 100–400 TB,每月可达 PB 级。

传感器 典型频率 单路数据率 常用格式 存储介质建议
相机 1080p 30 Hz 约 1.5–3 MB/s JPEG / H.264 / PNG 车载 NVMe,热数据
激光雷达 128 线 10 Hz 约 20–60 MB/s PCD / 自定义二进制 车载 NVMe,热数据
IMU 200 Hz 约 10–50 KB/s CSV / Parquet 本地 SSD,随包上传
GNSS 10 Hz 约 1–5 KB/s NMEA / Parquet 本地 SSD,随包上传
底盘 CAN 100 Hz 约 50–200 KB/s ASC / BLF / Parquet 本地 SSD,随包上传

存储介质通常采用“车载热存储 + 云端冷存储”的分层策略。车载端使用高耐久 NVMe SSD 承担高频写入,云端使用对象存储(如 S3、OSS)承载长期归档,并通过生命周期策略将冷数据转入低频或归档层,控制成本。

四、数据格式与工程实践

数据格式的选择直接影响读写效率、压缩率与工具链兼容性。常见格式包括:

  • rosbag / MCAP:ROS 生态常用,适合多传感器时间同步记录,MCAP 在索引与压缩上更优。
  • HDF5:适合大规模数值数据,支持分块与压缩,常用于训练数据集。
  • Parquet:列式存储,适合结构化信号与标注结果,查询效率高。
  • PCD / 二进制点云:激光雷达常用,PCD 可读性好,二进制更省空间。

以下是一个典型的采集配置片段,用于说明频率与格式的绑定关系:

sensors:
  - name: camera_front
    type: camera
    resolution: 1920x1080
    fps: 30
    format: jpeg
  - name: lidar_top
    type: lidar
    channels: 128
    fps: 10
    format: pcd_binary
  - name: imu_center
    type: imu
    hz: 200
    format: parquet
record:
  container: mcap
  chunk_size_mb: 512
  compression: zstd
实践建议:在采集配置中显式声明频率与格式,并在数据包元信息中记录传感器标定版本、时间同步状态与采集软件版本,便于后续版本管理与问题回溯。

五、常见误区与复盘

在实际项目中,以下误区最为常见:

  1. 只关注单帧大小,忽略频率叠加。单张图像不大,但 8 路 30 Hz 叠加后数据率会迅速上升。
  2. 格式选择与工具链脱节。选了压缩率高的格式,但下游标注工具不支持,导致额外转换成本。
  3. 存储介质耐久性不足。车载 SSD 长期高频写入,若未考虑 TBW 指标,容易出现掉盘。
  4. 时间同步被忽视。多传感器频率不同,若没有统一时间基准,后续融合与回放会出现错位。
复盘要点:数据基础配置一旦确定,后续回流、标注、训练都会受其影响。建议在项目初期就建立“传感器—频率—格式—介质”对照表,并纳入版本管理,避免后期频繁返工。

综上,传感器数据类型、采集频率、数据量级、数据格式与存储介质构成了自动驾驶数据工程的底层坐标系。只有把这五个维度对齐,才能让数据回流与版本管理在可控的成本与稳定的质量下持续运转。