1. 课程导入

当机器人从“看见物体”走向“理解环境”,它真正需要的并不只是一张目标检测框列表,而是一张能够描述物体之间位置、方向、距离、支撑、包含与功能关联的“空间语义地图”。这正是机器人空间关系与场景图推理要解决的问题:让机器人不仅知道“那里有一张桌子、一个杯子和一个人”,还要知道“杯子在桌面上、位于人的右手边、被人的身体部分遮挡、并且是当前可抓取的目标”。

本课程围绕这一核心能力展开,从空间关系表示、场景图构建、关系推理、任务规划到真实机器人部署,形成一条完整的知识链路。第1章作为导入,先建立全局认知:什么是空间关系,什么是场景图,它们为何对机器人至关重要,以及本课程将如何一步步把“感知结果”转化为“可推理、可执行、可解释”的空间知识。

1.1 核心定义:从坐标到关系,从关系再到图

空间关系描述的是物体或实体在几何与语义上的相互约束。它既包括定量关系,如相对距离、方位角、高度差、包围盒交并比,也包括定性关系,如“在……上方”“在……左侧”“靠近”“支撑”“包含”“遮挡”“朝向”等。机器人若只依赖绝对坐标,面对不同房间、不同视角和不同物体布局时,很难泛化;而空间关系提供了一种更稳定、更接近人类认知的中间表示。

场景图则把场景表示为“节点—边—节点”的结构:节点通常对应物体、区域、人物或机器人自身,边表示空间关系、语义关系或功能关系。一个典型的机器人场景图可以写成:

节点:杯子(cup_1)、桌子(table_1)、人(person_1)、机器人(robot_0)
边:
  cup_1 --on--> table_1
  cup_1 --right_of--> person_1
  cup_1 --near--> robot_0
  table_1 --in_front_of--> robot_0
  person_1 --occludes--> cup_1

有了这样的图结构,机器人就可以在图上进行查询、推理和规划。例如,“找到机器人前方、桌面上、未被遮挡且靠近人的杯子”,本质上就是在场景图上执行带约束的路径查询与关系筛选。

核心公式化理解:场景图可表示为 G = (V, E),其中 V 是物体/区域/智能体节点集合,E 是关系边集合。每条边可带有关系类型、置信度、几何参数和时间戳。机器人空间推理就是在 G 上进行条件查询、关系传播和动作决策。

1.2 发展历程:从几何地图到语义场景图

机器人空间理解经历了几个明显阶段。早期以几何地图为主,如占据栅格、点云地图和SLAM建图,重点回答“哪里可通行、哪里是障碍”。随后进入语义地图阶段,开始给栅格或体素赋予“桌子、墙、门、椅子”等标签,但仍以独立物体为中心,缺少物体间关系。

随着深度学习与图神经网络的发展,视觉场景图率先在图像理解中成熟,能够从单张图片中抽取物体及其关系。但机器人面对的是连续三维空间、动态视角和物理交互,因此研究者进一步提出3D场景图、动态场景图和任务驱动场景图。近年来,大模型与具身智能的兴起,使场景图从“静态描述”走向“可查询、可推理、可更新”的机器人世界模型,成为连接感知、语言与动作的重要桥梁。

机器人空间关系与场景图推理总体链路 感知 → 场景图构建 → 关系推理 → 任务执行 → 反馈更新 多模态感知 RGB-D / 激光 / 位姿 检测 · 分割 · 跟踪 物体候选与属性 场景图构建 节点:物体/区域/人/机器人 边:空间 · 语义 · 功能关系 置信度与时间戳 关系推理 空间约束查询 图神经网络 / 规则推理 语言指令对齐 任务执行 导航 · 抓取 · 放置 人机协作 动作序列生成 执行反馈:新观测、新关系、图更新 典型空间关系类型 拓扑关系 在…内 / 相邻 / 包含 方向关系 左 / 右 / 前 / 后 / 上 / 下 距离关系 靠近 / 远离 / 可触及 功能关系 可抓取 / 可坐 / 可通行 遮挡 可见性

1.3 应用场景:空间关系推理能做什么

空间关系与场景图推理并不是抽象理论,它直接支撑大量机器人任务。下面列出典型场景与对应能力需求:

应用场景 关键空间关系 场景图作用
家庭服务机器人 杯子在桌上、药瓶在抽屉内、椅子在桌旁 根据语言指令定位目标并规划抓取顺序
仓储物流机器人 货箱在托盘上、通道在货架之间、目标在第二层 构建货架—货箱—通道关系,支持拣选与避障
人机协作装配 零件在工人左手边、工具在机器人右侧、工件被遮挡 推理可操作区域与安全距离,动态调整动作
自动驾驶与移动导航 行人在车辆右前方、路锥在车道内、可通行区域在左侧 融合动态实体关系,辅助行为预测与路径决策
语言引导操作 “把桌子下面左边的红色盒子拿给我” 将语言中的空间约束映射为图查询条件

可以看到,场景图的价值在于把“感知碎片”组织成“关系网络”,让机器人能够回答更复杂的问题:目标在哪里?它和谁在一起?是否被遮挡?是否可到达?操作它会影响哪些其他物体?这些问题单靠检测框无法稳定回答。

1.4 本课程整体框架与学习路径

本课程共30章,整体遵循“表示—构建—推理—执行—评估”的主线。第1章建立全局认知;后续章节将依次深入空间关系数学表示、三维几何特征、场景图节点与边设计、视觉与点云感知、图神经网络推理、语言指令对齐、动态更新、任务规划、仿真与真机部署、性能评估与常见故障排查等内容。

学习建议:每学一个概念,都尝试把它映射到“节点、边、约束、查询”四个要素上。例如看到“杯子在桌上”,就应想到:节点是杯子和桌子,边是 on,约束是支撑面与重力方向,查询是“找到桌面上所有可抓取物体”。这种映射习惯会显著加快后续章节的理解。

1.5 常见误区与复盘

  • 误区一:把场景图等同于目标检测结果。检测只给出物体框,场景图还必须给出物体间关系、置信度和可更新结构。
  • 误区二:只使用绝对坐标。绝对坐标在不同场景中难以泛化,关系表示更接近人类指令和机器人决策需求。
  • 误区三:忽略动态更新。机器人环境中人和物会移动,场景图必须支持增量更新与时间衰减。
  • 误区四:关系类型越多越好。关系体系应服务于任务,过多冗余关系会增加推理噪声和计算负担。

复盘要点:空间关系推理的难点不在“画出一张图”,而在于让图可查询、可推理、可执行、可更新。如果一张场景图无法回答“机器人在当前时刻应该先抓哪个物体”,它就还停留在可视化层面,没有真正进入机器人决策闭环。

本章作为导入,已经给出了空间关系与场景图推理的基本定义、发展脉络、典型应用和课程框架。接下来,课程将进入具体表示方法与构建技术,逐步把这张“关系网络”落到机器人可计算、可执行的系统中。