2. 空间关系基础

在机器人场景理解中,空间关系是连接“物体识别”与“场景推理”的桥梁。仅知道图像里有杯子、桌子和人还不够,机器人还需要知道杯子在桌子上、人在桌子后面、杯子离机器人约0.8米。空间关系为抓取规划、导航避障、人机交互和任务决策提供结构化约束。本节从分类体系、表示方法、常见数据集和评价指标四个层面建立空间关系的基础框架。

一、空间关系的三大分类:拓扑、方向、距离

空间关系通常分为三类,它们回答的问题不同,适用场景也不同。

  • 拓扑关系:描述物体之间的连接、包含、相交等定性关系,如“在……内”“在……上”“接触”“分离”。拓扑关系对尺度变化和视角变化较鲁棒,适合粗粒度场景理解。
  • 方向关系:描述物体之间的方位,如“左”“右”“前”“后”“上”“下”“旁边”“之间”。方向关系依赖参考系,通常以观察者、相机或某个参考物体为基准。
  • 距离关系:描述物体之间的远近或度量距离,如“近”“远”“0.5米”“接触”。距离关系可以是定性的,也可以是定量的,常用于抓取和安全判断。

三类关系并非孤立。例如“杯子在桌子上的左侧,距离机器人约0.8米”同时包含拓扑、方向和距离信息。实际系统中常将它们组合成三元组或关系图。

核心记忆:拓扑回答“是否相连/包含”,方向回答“在哪个方位”,距离回答“有多远”。三者共同构成空间关系的完整描述。

二、空间关系的表示方法

空间关系的表示方法决定了机器人如何存储、查询和推理这些信息。常见方法包括:

  1. 三元组表示:(主体, 关系, 客体),如 (杯子, 在……上, 桌子)。这是场景图的基本单元,简洁且易于扩展。
  2. 关系矩阵:用矩阵存储每对物体之间的关系,适合小规模场景的批量推理。
  3. 场景图:节点表示物体,边表示空间关系,可叠加属性、类别和置信度,是当前主流表示。
  4. 向量/嵌入表示:将物体和关系映射到向量空间,通过距离或相似度进行推理,适合深度学习模型。
  5. 定性空间演算:如RCC-8、区域连接演算、方向关系代数,用于形式化推理和一致性检查。

下面用一张结构关系图展示空间关系从“原始感知”到“场景图表示”再到“推理应用”的完整链路,同时体现三类关系在其中的位置。

空间关系:分类 → 表示 → 推理应用 原始感知 检测框 / 点云 / 分割 拓扑关系 在……内 / 上 / 接触 包含 / 分离 / 相交 方向关系 左 / 右 / 前 / 后 上 / 下 / 旁边 / 之间 距离关系 近 / 远 / 接触 0.8 m / 1.5 m 空间关系表示方法 三元组 (主体, 关系, 客体) 关系矩阵 N×N 关系表 场景图 节点+边+属性 向量嵌入 相似度推理 推理与应用 抓取规划 导航避障 人机交互 任务决策 示例:(杯子, 在……上, 桌子) + (杯子, 左侧, 机器人) + 距离 0.8 m

三、常见数据集与评价指标

空间关系研究依赖标注数据集和统一评价指标。下表列出常见数据集及其侧重点。

数据集 场景类型 空间关系标注 典型用途
Visual Genome 自然图像 区域描述、关系三元组 场景图生成、关系检测
GQA 合成+真实 空间关系问答 视觉推理、关系问答
VRD 室内图像 100类关系标注 关系检测基准
SpatialSense 室内/室外 方向、距离、拓扑 空间关系推理
3DSSG 3D点云 3D场景图关系 机器人3D场景理解

评价指标方面,常用关系检测和场景图生成两类指标:

  • Recall@K:前K个预测中命中真实关系的比例,衡量召回能力。
  • mAP:平均精度,综合衡量不同关系类别的检测质量。
  • Top-K Accuracy:关系分类正确的比例,常用于方向/距离分类。
  • SPICE / SPC:面向场景图与描述的一致性指标,评估结构匹配程度。
  • 关系三元组F1:精确率和召回率的调和平均,适合不平衡关系类别。

四、案例:机器人抓取中的空间关系推理

假设机器人看到桌面上有一个杯子和一个盒子,需要抓取杯子。感知模块输出检测框后,空间关系模块构建如下关系:

(杯子, 在……上, 桌子)     拓扑关系
(杯子, 左侧, 盒子)         方向关系
(杯子, 距离, 机器人) = 0.8 m  距离关系
(盒子, 遮挡, 杯子)         拓扑/方向混合

推理模块根据“杯子在桌子上、未被遮挡、距离0.8米、位于盒子左侧”生成抓取候选位姿。如果距离关系判断为“过远”,则先导航靠近;如果拓扑关系判断为“被遮挡”,则先移开盒子。这说明三类关系在任务中协同工作。

实践建议:构建空间关系模块时,先明确任务需要哪类关系,再选择表示方法。抓取任务通常需要距离和拓扑,导航任务更依赖方向和拓扑,人机交互则三者都需要。

五、常见误区与复盘

误区1:把方向关系当成绝对方向。“左边”依赖参考系。以相机为参考和以机器人为参考,结果可能相反。必须显式定义参考系。

误区2:忽略距离的尺度变化。“近”在桌面场景可能是0.3米,在室外可能是5米。定性距离需要结合场景尺度归一化。

误区3:只用三元组而忽略置信度。真实感知存在噪声,关系应带置信度,否则错误关系会传播到推理结果。

误区4:评价指标与任务目标不一致。关系检测mAP高,不代表抓取成功率高。应结合下游任务指标联合评估。

复盘时建议检查三点:参考系是否统一、关系类别是否覆盖任务需求、评价指标是否与最终任务对齐。只有把分类、表示、数据和指标打通,空间关系才能真正服务于机器人场景推理。