3D场景图
3D Scene Graph进阶用分层的图把三维场景里的楼层、房间、物体和它们的关系组织起来。
3D 场景图是一种结构化的场景表示:节点是场景里的实体(建筑、楼层、房间、物体、相机位置等),边是它们之间的关系(「在……里」「在……上」「挨着」),节点上再挂类别、尺寸、三维位置等属性。Armeni 等人在 ICCV 2019 提出这一结构,分建筑、房间、物体、相机四层;MIT 的 Hydra(RSS 2022)让机器人边探索边实时构建分层场景图。相比稠密点云或网格,场景图体积小、语义清楚,能直接回答「冰箱在哪个房间」,也便于转成文本交给大语言模型做任务规划。ConceptGraphs 用 2D 基础模型构建开放词汇场景图,SayPlan 则让大模型在场景图上搜索、规划跨房间的长程任务。
例子机器人收到「把厨房桌上的苹果拿到客厅」:先在场景图里沿 厨房→桌子→苹果 找到目标节点和客厅节点,再依次调用导航、抓取、放置技能。
- 也叫
- 三维场景图、3DSG、3D Scene Graphs
- 相关
- ConceptGraphs、SayPlan、语义地图、场景理解、大模型任务规划
- 来源
- 3D Scene Graph: A Structure for Unified Semantics, 3D Space, and Camera (arXiv 1910.02527)
Hydra: A Real-time Spatial Perception System for 3D Scene Graph Construction and Optimization (arXiv 2201.13360)
ConceptGraphs: Open-Vocabulary 3D Scene Graphs for Perception and Planning (arXiv 2309.16650)