1. 课程导入
自动驾驶系统每天在测试车、量产车和路侧设备上产生海量数据:摄像头图像、激光雷达点云、毫米波雷达目标、CAN 总线信号、GNSS/IMU 位姿、诊断日志与影子模式事件。这些数据既是算法迭代的燃料,也是安全合规的证据。但现实约束非常直接——车载网络带宽有限、蜂窝流量昂贵、云端存储成本高、关键事件稍纵即逝。因此,工程上必须回答两个问题:哪些数据值得传回云端,以及在传回之前,车端或路侧边缘能先做哪些预处理。这正是本课程要解决的核心命题。
1.1 两个核心定义
数据回传,指在自动驾驶车辆、路侧单元或测试设备与云端/数据中心之间,按照既定策略把原始或加工后的数据从边缘侧传输到中心侧的过程。它不只是“发文件”,而是一套包含触发、筛选、压缩、加密、断点续传、配额控制、回执确认和审计追踪的数据管道。
边缘预处理,指在数据离开车端或路侧设备之前,利用车载计算平台、域控制器或边缘服务器完成的轻量计算,包括时间同步、去噪、抽帧、裁剪、目标检测、事件判定、特征提取、脱敏和打包。它的目标不是替代云端训练,而是用最小的带宽和算力代价,把最有价值的信息送到云端。
一句话理解二者关系:边缘预处理决定“传什么、传多少、传多快”,数据回传决定“怎么传、传给谁、传得是否可靠”。二者共同构成自动驾驶数据闭环的“咽喉通道”。
1.2 整体知识框架
本课程围绕“边缘—传输—云端”三段式数据链路展开,可拆成五个层次:
- 数据源层:摄像头、激光雷达、毫米波雷达、组合导航、底盘 CAN、DMS/OMS、V2X 消息。
- 边缘预处理层:时间同步、标定校验、抽帧与裁剪、目标检测、事件触发、特征压缩、脱敏。
- 回传传输层:触发策略、优先级队列、断点续传、压缩编码、TLS 加密、流量配额、5G/Wi-Fi/专网切换。
- 云端接入层:消息队列、对象存储、元数据索引、数据湖、回执与对账。
- 闭环应用层:场景挖掘、模型训练、仿真回放、问题复现、OTA 验证、合规审计。
下面的内联 SVG 用一张“数据链路与价值漏斗”图,把上述层次、关键对象和工程价值放在同一张图上,便于建立全局认知。
1.3 方法流程:一条数据从产生到闭环的旅程
为了把抽象概念落到工程动作上,可以用一条典型链路来理解:
- 采集与打标:传感器原始数据带时间戳写入本地环形缓冲区,同时记录车辆状态、软件版本、地图版本。
- 事件触发:当 AEB 触发、接管发生、感知置信度骤降或影子模式发现不一致时,生成事件标记。
- 边缘预处理:截取事件前后各若干秒数据,做时间对齐、抽帧、目标框叠加、车牌/人脸脱敏,并生成元数据 JSON。
- 回传调度:按优先级入队,高优先级事件走 5G 实时回传,低优先级在车辆回场后走 Wi-Fi 批量上传。
- 云端入库:消息队列解耦,对象存储保存大文件,索引服务写入场景标签,回执确认后边缘侧清理本地缓存。
- 闭环消费:数据被用于模型训练、仿真回放、问题复现和 OTA 验证,产生新的触发规则,反哺边缘策略。
下面给出一个边缘侧事件打包的元数据示例,实际工程中通常以 JSON 或 Protobuf 表达:
{
"event_id": "EVT-20240517-083012-001",
"vehicle_id": "AV-TEST-027",
"trigger": "takeover",
"timestamp_ns": 1715934612000000000,
"duration_ms": 8000,
"sensors": ["camera_front", "lidar_top", "can_bus"],
"preprocess": {
"sync": "ptp",
"frame_stride": 5,
"roi_crop": true,
"desensitize": ["plate", "face"]
},
"priority": "high",
"size_bytes": 184320000,
"checksum": "sha256:9f2c..."
}
1.4 案例与场景:为什么不能“全量上传”
假设一辆测试车每天运行 6 小时,配备 1 路前视 800 万像素摄像头、1 颗 128 线激光雷达和若干雷达。原始数据量很容易达到每天 2~4 TB。如果全量通过 5G 回传,按每 GB 流量成本和带宽占用计算,单辆车每天的成本和传输时间都不可接受,更不用说车队规模。工程上的做法是:边缘先做价值判断,只把接管、碰撞风险、感知异常、法规要求等片段传回,通常能把数据量压缩到原来的 1%~5%。
一个实用的判断原则:如果一段数据不能回答“哪个场景出了问题、哪个模型需要改进、哪条法规需要举证”,它就不应该占用宝贵的回传带宽。
1.5 常见误区与复盘
| 误区 | 表现 | 后果 | 纠正思路 |
|---|---|---|---|
| 先传后筛 | 车端全量上传,云端再挑 | 流量成本高、链路拥塞、关键事件延迟 | 把筛选前移到边缘,云端只做二次精筛 |
| 只关注带宽 | 忽略时间同步与元数据质量 | 数据无法对齐、无法复现、无法训练 | 同步、标定、索引与传输同等重要 |
| 触发规则一成不变 | 只按固定阈值触发 | 漏采长尾场景,或重复采集无效数据 | 用云端闭环反馈动态调整触发策略 |
| 忽视合规脱敏 | 原始人脸、车牌直接上传 | 法律风险、数据泄露 | 边缘侧完成脱敏,云端只存必要信息 |
1.6 学习目标与工程价值
完成本课程后,你应当能够:
- 说清数据回传与边缘预处理的边界、目标和关键指标。
- 设计一套可落地的事件触发、优先级调度与断点续传方案。
- 在车端算力、带宽、功耗和成本约束下做预处理算法取舍。
- 搭建从边缘到云端的数据链路,并保证可追溯、可审计、可复现。
- 用数据闭环思维反推采集策略,让每一份回传数据都能产生工程价值。
本课程的工程价值可以概括为三句话:用边缘计算换带宽,用策略调度换时效,用数据闭环换迭代速度。掌握这三条主线,就能在真实的自动驾驶数据工程中做出可衡量、可优化、可复制的系统设计。