ReactSim-Bench
收藏资源简介:
ReactSim-Bench是首个用于系统评估自动驾驶中行为世界模型反应能力的基准。它基于nuPlan构建,包含2636个测试场景,这些场景中的自动驾驶车辆行为与日志不同,对周围智能体产生反应压力,分为纵向偏差、方向偏差和横向偏差三类类别。
ReactSim-Bench is the first benchmark for systematically evaluating the reactive capabilities of behavioral world models in autonomous driving. Built upon nuPlan, it encompasses 2636 test scenarios where the behaviors of autonomous vehicles deviate from the logged data and pose reactive pressure on surrounding intelligent agents. These scenarios are classified into three categories: longitudinal deviation, directional deviation, and lateral deviation.
ReactSim-Bench 数据集概述
ReactSim-Bench 是首个用于系统评估自动驾驶中行为世界模型反应能力的基准测试平台。
核心特性
- 反应式闭环协议与解耦控制:在该基准中,行为世界模型控制周围智能体,而自动驾驶车辆(AV)由其自身策略控制,而非世界模型。
- 记录之外的定制化AV行为:包含2,636个场景,这些场景中的AV行为与记录数据不同,并对周围智能体产生反应性压力。这些场景分为三类:纵向偏差、方向偏差和横向偏差。
- 安全性与可行性指标:评估智能体-AV碰撞风险、智能体-智能体碰撞风险、地图合规性、行驶方向合规性以及运动学可行性。
- 多基线模型:在ReactSim-Bench上实现了基于Transformer(MTR)、扩散模型(CTG, VBD)和下一词元预测(SMART, CATK, TrajTok)的行为世界模型作为基线。
数据集构成
ReactSim-Bench 基于 nuPlan 构建,包含2,636个测试场景:
| 类别 | 场景数量 |
|---|---|
| 纵向偏差 | 937 |
| 方向偏差 | 799 |
| 横向偏差 | 900 |
| 总计 | 2,636 |
数据可在 Hugging Face 获取。
基准测试结果
以下为各方法在关键指标上的表现:
| 方法 | A-AV 碰撞次数 | A-AV 危险次数 | A-A 碰撞 (%) | 偏离道路 (%) | 方向违规 (%) | 加速度不可行 (%) | 转向不可行 (%) |
|---|---|---|---|---|---|---|---|
| Log Replay | 0.9829 | 1.5380 | 2.25 | 0.18 | 0.80 | 0.16 | 2.51 |
| MTR | 0.1457 | 0.5819 | 3.29 | 2.67 | 2.83 | 0.64 | 14.29 |
| CTG | 0.6195 | 0.9476 | 4.88 | 2.95 | 2.10 | 10.87 | 7.08 |
| VBD | 0.2276 | 0.4711 | 3.19 | 1.03 | 2.35 | 0.01 | 0.18 |
| SMART | 0.1419 | 0.3976 | 2.23 | 0.68 | 1.09 | 9.74 | 4.83 |
| CATK | 0.1426 | 0.4029 | 2.22 | 0.69 | 1.13 | 10.25 | 5.02 |
| TrajTok | 0.1407 | 0.4173 | 2.23 | 0.61 | 1.03 | 3.23 | 3.93 |
各基线模型的检查点可在 Hugging Face 获取。
相关资源链接
- 论文:https://arxiv.org/pdf/2606.14058
- 数据:https://huggingface.co/datasets/zzzy0729/ReactSim-Bench-Data
- 基线模型:https://huggingface.co/zzzy0729/ReactSim-Bench-Models
- nuPlan:https://github.com/motional/nuplan-devkit
- MTR:https://github.com/sshaoshuai/MTR
- CTG:https://github.com/NVlabs/CTG
- VBD:https://github.com/SafeRoboticsLab/VBD
- SMART:https://github.com/rainmaker22/SMART
- CATK:https://github.com/NVlabs/catk
- TrajTok:https://github.com/Thinklab-SJTU/TrajTok
引用
bibtex @article{reactsimbench, title={ReactSim-Bench: Benchmarking Reactive Behavior World Model Simulation in Autonomous Driving}, author={Zhiyuan Zhang and Yanlun Peng and Jianing Zhang and Xianda Guo and Zehan Huang and Haoran Liu and Qifeng Li and Shaofeng Zhang and Xiaosong Jia and Junchi Yan}, year={2026}, eprint={2606.14058}, archivePrefix={arXiv}, primaryClass={cs.RO}, }




