遇见数据集

SidewalkBench

收藏
arXiv2026-06-16 更新2026-06-17 收录
官方服务:

资源简介:

SidewalkBench是由加州大学洛杉矶分校与Coco Robotics联合创建的综合性城市人行道视觉导航基准数据集,旨在解决复杂城市环境中导航模型评估标准缺失的问题。该数据集包含程序生成场景与真实扫描场景两种高保真环境类型,总计覆盖1235个测试场景,其中程序生成场景基于NVIDIA Isaac Sim构建并集成动态行人行为模拟,真实场景则通过3D高斯溅射技术从激光雷达与多相机数据重建而成。数据集通过事件触发机制模拟行人交互行为,并采用SMPL人体模型优化动画渲染流程,显著提升了运动多样性与仿真效率。其核心应用在于为视觉导航模型提供标准化评估平台,重点解决行人交互理解与长距离导航鲁棒性等关键瓶颈问题。

SidewalkBench is a comprehensive urban sidewalk visual navigation benchmark dataset jointly created by the University of California, Los Angeles (UCLA) and Coco Robotics, aiming to address the lack of standardized evaluation criteria for navigation models in complex urban environments. This dataset includes two types of high-fidelity environments: procedurally generated scenes and real-world scanned scenes, covering a total of 1235 test scenarios. Among them, the procedurally generated scenes are built based on NVIDIA Isaac Sim and integrated with dynamic pedestrian behavior simulation, while the real-world scenes are reconstructed from LiDAR and multi-camera data using 3D Gaussian Splatting technology. The dataset simulates pedestrian interaction behaviors through an event-triggered mechanism, and optimizes the animation rendering pipeline with the SMPL human body model, significantly improving motion diversity and simulation efficiency. Its core application is to provide a standardized evaluation platform for visual navigation models, focusing on solving key bottleneck problems such as pedestrian interaction understanding and long-distance navigation robustness.

创建时间:
2026-06-16
原始信息汇总

数据集概述

SidewalkBench 是一个面向城市人行道视觉导航的综合性基准测试平台,基于 NVIDIA Isaac Sim 构建,提供 GPU 加速的高保真模拟环境。

场景构成

  • 程序化生成场景:包含 100 个大规模环境,每个覆盖 2km × 2km,由 7 种基本街区类型(直道、弯道、交叉口等)通过样条路由连接,每类街区分为 5 个功能区(道路、人行道、路缘、路肩、临街区),并利用 UrbanVerse-100K 资产库填充多样化的天空、地面纹理和静态物体。
  • 真实世界扫描场景:使用 XGRIDS 空间相机(LiDAR + 四摄像头)采集并重建了 11 个真实街道街区,每个平均 150m × 150m,具有逼真的 3DGS 外观和精确网格几何,并标注了人行道和斑马线区域。

行人仿真系统

  • 两级仿真架构
    • 事件驱动的高层行为:定义了 8 种常见人行道交互行为(阻挡、交谈、排队、正面/侧面接近、超车、过马路、手势示意),通过行为状态机根据行人相对机器人的位置触发,支持标准化、可复现的人机交互场景。
    • 高效低层动画:使用 SMPL 人体模型表示所有行人,基于 Nvdiffrast 的自定义渲染器相比 Isaac Sim 原生模块实现了 60 倍的渲染效率提升,支持并行环境的大规模评估。

测试场景与规模

  • 单元测试场景:评估模型在 3 种基本人行道结构(直道、弯道、斑马线)上的性能,总计 330 个测试。
  • 行人反应性场景:在程序化生成场景中评估 8 类事件驱动的行人行为,总计 800 个测试。
  • 长程导航场景:要求机器人穿越超过 100 米起止距离的大规模环境,总计 105 个测试。

基准测试模型

  • 对 9 个代表性的视觉导航模型进行了系统评估。
  • 关键发现
    • 扩展人行道数据至关重要。
    • 行人交互和长程导航鲁棒性仍是瓶颈。
    • 合成数据微调是有前景的解决方案。

其他特性

  • 支持作为可扩展的合成数据生成器,用于模型微调(如过马路和手势示意行为的微调示例)。
  • 兼容多种机器人本体平台。

引用

@article{liu2026sidewalkbench, title={SidewalkBench: Benchmarking Visual Navigation on Urban Sidewalks}, author={Liu, Zhizheng and He, Honglin and Alumootil, Vivek and Pandya, Akshat and Squicciarini, Brad and Wu, Wayne and Zhou, Bolei}, journal={arXiv preprint}, year={2026}, }

搜集汇总
数据集介绍
SidewalkBench 数据集图片
构建方式
SidewalkBench 基于 NVIDIA Isaac Sim 构建,利用其 GPU 加速的物理仿真与高效并行渲染能力。该基准测试集成了两种互补的城市场景:程序化生成的场景通过定义七种基本街区类型、功能区划分及随机布局生成多样的大规模环境,而真实世界扫描场景则采用 3D 高斯泼溅技术重建高保真街景。为模拟丰富的行人行为,研究设计了基于事件的高层行为图与灵活的低层动画管线,通过 SMPL 人体模型与自定义渲染器实现高效、多样的人机交互仿真,从而构建出标准化的测试平台。
特点
SidewalkBench 具有显著的结构化与交互性特点。它包含 330 个单元测试场景、800 个行人反应场景和 105 个长距离场景,全面覆盖基础拓扑结构、动态行人行为及长时导航挑战。其行人生成模块支持多种事件触发行为,如正面接近、侧向横穿、社交群组等,且低层动画采用 SMPL 参数控制与高效渲染管线,渲染效率提升达 60 倍,使得大规模并行评估成为可能。此外,真实扫描场景与程序化场景的结合,有效弥合了仿真与现实之间的视觉与几何差距。
使用方法
用户可通过 SidewalkBench 对视觉导航模型进行标准化评估。评估时,模型接收单目 RGB 图像作为输入,并输出控制信号或航点。基准测试支持三种场景类型:单元测试用于评估基本导航能力,行人反应场景测试模型对动态行人的应对能力,长距离场景则衡量模型的鲁棒性与效率。用户也可自定义场景以测试特定任务。实验结果可通过失败率、速度、社会合规性等多维度指标进行量化分析,从而识别模型瓶颈并指导优化方向。
背景与挑战
背景概述
城市人行道导航是移动机器人与自主系统领域的重要研究方向,其复杂性源于动态的行人行为、多样的结构布局以及长距离的路径规划。2026年,加州大学洛杉矶分校(UCLA)与Coco Robotics的研究团队提出了SidewalkBench,这是一个专为城市人行道视觉导航设计的综合性基准。该基准依托NVIDIA Isaac Sim仿真引擎,结合程序化生成的高保真场景与真实世界扫描场景,并引入基于事件的行人行为模拟模块,旨在系统评估视觉导航模型在真实部署场景中的性能。SidewalkBench的创立填补了该领域缺乏统一量化评估标准的空白,对于推动自主导航技术的可重复性研究与实际应用具有重要影响。
当前挑战
SidewalkBench所面临的挑战涵盖了领域问题与构建过程两个层面。在领域问题方面,当前视觉导航模型在应对复杂行人交互(如社交群体、手势理解)和长距离导航时表现不佳,如在行人横穿场景中,模型平均成功率仅为0.01,而长距离测试中最佳模型OpenPilot每100米仍发生1.34次故障。在构建过程中,团队需克服高保真场景的效率与真实感平衡问题,包括开发高效的行人渲染管线(实现60倍加速)、确保程序化场景与真实扫描场景之间的视觉与几何一致性,以及设计标准化但具代表性的测试场景来覆盖多样化的部署条件。
常用场景
经典使用场景
在城市场景的机器人视觉导航研究中,SidewalkBench为评估模型在人行道环境下的表现提供了统一的标准化基准。该数据集基于NVIDIA Isaac Sim构建,融合了程序化生成与真实世界扫描两种场景类型,能够模拟多样化的街道布局、静态障碍物以及动态行人行为。研究者通常利用该数据集中的单元测试场景、行人反应场景和长距离场景,对模型的基础路径跟踪能力、行人交互安全性和长距离鲁棒性进行系统评估,从而在可控条件下揭示不同模型的性能差异与局限性。
衍生相关工作
SidewalkBench的提出催生了多项关于城市人行道视觉导航的衍生研究。基于该基准系统评估中揭示的行人交互短板,后续工作开始探索结合视觉语言动作模型与轻量级导航模型的混合架构,以融合高层语义理解与底层精确控制。同时,利用该平台高效生成的行人交互合成数据,研究者成功通过微调策略显著提升了模型在行人穿越和手势理解等困难场景中的表现,验证了仿真数据驱动模型优化的可行性与潜力,推动了仿真到现实迁移技术的发展。
数据集最近研究
最新研究方向
当前,面向城市人行道的视觉导航研究正聚焦于应对复杂结构化布局、动态行人行为以及长距离任务带来的挑战。SidewalkBench作为首个专为该场景设计的综合性基准,借助NVIDIA Isaac Sim构建了包含程序化生成与真实世界扫描场景的高保真仿真环境,并集成了丰富的事件驱动型行人行为模拟。通过系统评估9种视觉导航模型在330项单元测试、800项行人反应测试及105项长视野场景中的表现,研究揭示出行人交互理解与长程鲁棒性仍是现有模型的核心瓶颈。值得注意的是,利用合成数据扩展人行道训练数据展现出显著潜力,为弥补真实部署与仿真评估之间的鸿沟提供了可行路径,推动自主机器人在公共空间中的安全应用迈出关键一步。
相关研究论文
  • 1
    SidewalkBench: Benchmarking Visual Navigation on Urban Sidewalks加州大学洛杉矶分校; Coco Robotics · 2026年
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务