NavSpace
收藏资源简介:
NavSpace数据集是一个用于评估导航代理空间智能的基准数据集,包含6个子任务类别和1,228个轨迹-指令对,旨在系统性地测试导航代理的空间感知和推理能力。数据集涵盖环境状态、空间结构、精确移动、视角转换、垂直感知和空间关系等任务,提供多种JSON文件格式以支持不同导航模型的需求。
The NavSpace dataset is a benchmark dataset for evaluating the spatial intelligence of navigation agents. It comprises 6 subtask categories and 1,228 trajectory-instruction pairs, aiming to systematically test the spatial perception and reasoning capabilities of navigation agents. The dataset covers tasks including environmental states, spatial structure, precise movement, perspective transformation, vertical perception, and spatial relations, and provides multiple JSON file formats to support the requirements of different navigation models.
NavSpace数据集概述
数据集简介
NavSpace是一个用于评估导航代理空间智能的视觉语言导航基准数据集,专注于系统评估导航代理的空间感知和推理能力。
数据集规模
- 总轨迹-指令对数量:1,228个
- 任务类别数量:6个
任务类别分布
| 任务类别 | 环境状态 | 空间结构 | 精确移动 | 视点切换 | 垂直感知 | 空间关系 | 总计 |
|---|---|---|---|---|---|---|---|
| 样本数量 | 200 | 200 | 201 | 207 | 208 | 212 | 1,228 |
文件结构
每个子文件夹包含三种JSON文件格式:
文件类型说明
-
_vln.json
- 标准视觉语言导航模型格式
- 包含完整回合信息:坐标、指令、路径等
- 作为数据一致性验证的基准文件
-
_action.json
- 包含真实动作序列
- 核心字段与vln.json完全一致
- 额外包含详细动作序列和参考路径
-
_with_tokens.json
- 为轻量级导航模型设计的预分词格式
- 提供预分词指令文本以提高处理效率
- 场景路径可能与其他文件不同
动作定义
- forward:直线前进0.25米
- left/right:向左或向右旋转30°
- look-up/look-down:相机向上或向下倾斜30°
- backward:向后移动0.25米
- stop:轨迹结束
数据一致性
- 所有文件在核心字段上保持一致:episode_id、instruction_text、坐标、目标点等
- 由于环境差异,scene_id路径可能不同,但场景文件名相同
- 通过验证程序确保数据完整性
使用建议
- 使用validate_dataset_integrity.py验证数据完整性
- 使用*_vln.json作为数据比较基准
- 根据模型需求选择合适的数据格式
评估框架
- 评估程序为gpt_eval.py,需要GPT API密钥
- 运行评估过程需执行bash脚本el.sh
- 其他评估方法即将发布




