1. 课程导入

当机器人从实验室走向商场、工厂、医院和家庭,它面对的不再是铺着方格纸的平整地面,而是充满货架、行人、玻璃门、临时堆料和动态障碍的真实空间。传统二维栅格地图只能回答“这里能不能走”,却无法回答“这里是什么”“能不能压过去”“该不该在这里停下”。三维语义地图构建,正是让机器人从“看见几何”走向“理解空间”的关键技术。

一、什么是三维语义地图构建

三维语义地图构建,是指机器人利用激光雷达、深度相机、RGB相机、IMU、轮速计等多源传感器,在未知或半未知环境中同步完成自身定位、环境几何重建与对象语义标注,最终生成一张既包含三维结构、又包含类别与属性信息的地图。它通常由三个层次组成:

  • 几何层:点云、体素、网格、TSDF、八叉树等,描述墙、地面、障碍物的形状与位置。
  • 语义层:为点云或体素赋予“地面、墙、门、桌子、货架、人、车辆”等类别标签。
  • 拓扑与关系层:描述房间之间的连通关系、物体之间的支撑/遮挡/可通行关系,为任务规划提供高层知识。

与纯几何建图相比,语义地图的核心差异在于:地图不再只是坐标集合,而是带有“含义”的空间数据库。机器人可以查询“最近的充电桩在哪”“这条走廊是否被货架堵住”“前方物体是否可穿越”,从而支撑导航、抓取、巡检、交互等任务。

一句话理解:几何地图告诉机器人“哪里有空隙”,语义地图告诉机器人“这个空隙是什么、能不能用、该怎么用”。

二、发展历程:从栅格到语义,从离线到在线

三维语义地图构建并非突然出现,它沿着感知、建图与学习三条技术线逐步演进:

  • 1990s—2000s:二维栅格与SLAM奠基期。 以概率栅格、卡尔曼滤波、粒子滤波为代表,机器人首次实现未知环境中的定位与建图,但地图只有“占用/空闲”两种状态。
  • 2007—2015:三维几何建图兴起。 激光雷达与RGB-D相机普及,LOAM、Cartographer、RTAB-Map等方案实现三维点云与网格重建,地图开始具备体积和表面信息。
  • 2015—2020:语义分割与语义SLAM融合。 深度学习推动PointNet、Mask R-CNN、SemanticFusion等模型落地,机器人可在建图过程中为点云打标签,形成“几何+语义”地图。
  • 2020至今:在线语义、实例级与语言驱动。 语义地图从离线标注走向实时增量更新,并进一步支持实例分割、开放词汇查询与自然语言指令,如“去打印机旁边的空位”。

这一演进背后是三条能力的同时提升:传感器更便宜、算力更强、模型更通用。今天的移动机器人已能在边缘计算平台上,以10Hz以上频率完成点云配准、语义推理与地图更新。

三、核心价值:为什么工程上必须做语义地图

在真实项目中,语义地图的价值通常体现在四个维度:

价值维度 具体表现 典型收益
导航安全 区分地面、玻璃、悬空物、可穿越区域 减少误刹、碰撞与卡死
任务规划 识别门、电梯、充电桩、工位等目标点 支持“到某类物体附近”的高层任务
人机交互 用自然语言描述空间与物体 提升服务机器人的可用性
运维复盘 记录环境变化与对象状态 支持巡检、盘点与异常追溯

从工程角度看,语义地图还是多模块的“公共底座”:定位模块依赖几何层,规划模块依赖可通行层,交互模块依赖语义层。若没有统一地图,各模块各自维护局部表示,系统会迅速变得难以调试和扩展。

四、整体课程框架与学习路径

本课程共30章,围绕“能建、能标、能存、能用”四条主线展开。整体结构可概括为:

  1. 基础篇(第1—6章): 坐标系、传感器模型、点云处理、SLAM基础与地图表示。
  2. 语义篇(第7—14章): 2D/3D语义分割、实例分割、多帧融合、标签管理与不确定性。
  3. 工程篇(第15—22章): 在线建图、增量更新、地图压缩、回环与重定位、边缘部署。
  4. 应用篇(第23—30章): 导航、抓取、巡检、仿真评测与完整项目实战。

学习过程中建议遵循“先跑通、再调优、后扩展”的节奏:先用手持设备或仿真环境完成一次完整建图,再逐步替换语义模型与融合策略,最后接入真实机器人任务。

五、典型场景与常见误区

以仓储巡检机器人为例:机器人沿通道行驶,激光雷达构建三维点云,相机识别货架、托盘、消防栓与人员。语义地图将“货架”标记为不可穿越,“通道”标记为可通行,“充电桩”标记为任务目标点。当临时堆料出现时,地图需在数秒内更新可通行区域,否则规划器仍会按旧地图行驶。

常见误区一:把语义地图当成“给点云上色”。颜色只是可视化,真正重要的是标签、置信度与更新机制。

常见误区二:追求一次性高精度离线建图,却忽略在线增量更新。真实环境中物体移动、门开合、光照变化都会让地图迅速过期。

常见误区三:语义标签与几何层脱节。若标签没有绑定到具体体素或对象实例,后续查询与规划将无法使用。

下面这张图概括了三维语义地图构建的总体数据流:多源传感器输入,经过前端里程计与后端优化,进入几何建图与语义推理,最终融合为带标签的三维地图,并输出给导航、规划与交互模块。

三维语义地图构建总体数据流 多源传感器 激光雷达 / 深度相机 RGB相机 / IMU / 轮速计 时间同步与标定 前端里程计 点云配准 / 特征跟踪 帧间位姿估计 关键帧筛选 后端优化 位姿图 / 因子图 回环检测与重定位 全局一致性校正 几何建图 体素 / TSDF / 八叉树 网格与表面重建 可通行性分析 语义推理 2D/3D语义分割 实例分割与跟踪 标签置信度估计 语义融合 多帧标签投票 几何-语义对齐 增量更新与压缩 语义地图输出 导航与规划 抓取与交互 巡检与复盘 关键闭环:定位与建图相互约束,语义标签随新观测持续更新;地图输出后,任务执行结果又可反馈为新的观测,形成在线增量循环。 工程关注点:时间同步、外参标定、标签一致性、内存与算力预算、地图版本管理。