遇见数据集

PhysEditWorld

收藏
github2026-06-27 更新2026-06-29 收录
官方服务:

资源简介:

PhysEditWorld是一个用于研究游戏世界模型中可编辑物理规则的多模态数据集,当前版本专注于重力:每个匹配的重放组在保持场景、初始状态、动作序列、角色控制器和相机策略固定的同时,在不同重力配置下重放场景。

PhysEditWorld is a multimodal dataset developed for investigating editable physical rules within game world models. The current version focuses on gravity: each matched replay group replays the scenario under varying gravity configurations while keeping the scene, initial state, action sequence, character controller and camera strategy fixed.

创建时间:
2026-06-08
原始信息汇总

数据集概述

PhysEditWorld 是一个用于研究游戏世界模型中可编辑物理规则的大规模多模态数据集。当前版本聚焦于重力:每个匹配的回放组固定场景、初始状态、动作序列、角色控制器和相机策略,在不同重力配置下回放情景。

项目资源:

  • 项目页面
  • 论文 [assets/PhysEditWorld.pdf]
  • 数据说明 [data/README.md]
  • 代码说明 [code/README.md]

数据集核心特性

  • 匹配的物理干预: 回放组改变重力,同时保留场景、动作轨迹、控制器和相机策略。
  • 游戏原生数据生成: 基于UE5的回放与渲染工作流,整合了场景、增强输入动作、相机系统、影片渲染队列输出及帧对齐的引擎日志。
  • 多模态观测数据: RGB、深度、表面法线、音频(可用时)、相机轨迹、动作轨迹、角色/物体状态、语义描述和明确的重力标签。
  • 评估目标: 基于重力的视频生成、基于动作的第一人称世界建模,以及重力感知的视频语言理解。

数据集规模

项目 当前范围
场景数量 12个UE5电影级环境
交互规模 超过100小时的交互
渲染帧数 超过6000万帧
视角数量 8个同步相机视角
分辨率/帧率 1280 x 720, 30 FPS
重力倍数 0.05g, 0.1g, 0.5g, 1.0g, 2.0g, 5.0g, 20.0g
数据模态 RGB、深度、法线、音频、动作、相机路径、引擎状态、描述、重力标签

发布状态

组件 状态
项目页面 可用
论文PDF 可用
数据集模式文档 已记录
示例子集 计划中
完整数据集 计划中
UE5流程代码 计划中
评估脚本 计划中

部分第三方UE5资源可能存在重新分发限制,对于不可直接分发的场景资产,将提供替代资产、资产列表或重建说明。

仓库布局

text . ├── README.md ├── index.html ├── styles.css ├── script.js ├── assets/ │ ├── PhysEditWorld.pdf │ ├── hero-independent.png │ ├── overview.png │ ├── pipeline.png │ └── vlm_table.png ├── code/ │ └── README.md └── data/ └── README.md

快速开始

在公开子集发布前,请使用仓库中的文档来对齐数据加载器和评估代码的预期格式。

bash git clone https://github.com/yizhiqianbi/physeditworld.git cd physeditworld

查看数据集契约

sed -n 1,220p data/README.md

查看代码发布入口

sed -n 1,220p code/README.md

典型数据布局

每个样本对应一次录制-渲染任务,固定场景、动作序列、相机设置和物理配置。

text <dataset_root>/ Video/<sample_id>/<camera_name>.mp4 Meta/<sample_id>_meta_frame.csv Meta/<sample_id>_meta_time.csv PhysicalConfig/<physical_config_name>.json Aux/<aux_type>/<sample_id>/<camera_name>/<frame_id>.png Details.json

评估任务

  1. 基于重力的视频生成: 根据重力倍数条件生成视频,检验运动是否符合重力的排序规则。
  2. 基于动作的第一人称世界建模: 回放匹配场景中的动作轨迹,检验生成的回放内容在编辑后的重力下是否有一致的起跳、下落和着陆行为。
  3. 重力感知的视频语言理解: 从短游戏片段中预测重力类别和连续重力倍数。

许可与资源说明

仓库许可将在数据/代码发布时确定。数据集用户应预期以下内容的条款分离:

  • 项目页面与文档
  • 发布的代码
  • 生成的视频与元数据
  • 第三方UE5资产或替代资产列表

引用

bibtex @misc{physeditworld2026, title = {PhysEditWorld: A Large-Scale Dataset Toward Physics-Editable World Models}, author = {PhysEditWorld Team}, year = {2026}, note = {Project page and dataset release repository} }

搜集汇总
数据集介绍
PhysEditWorld 数据集图片
构建方式
物理可编辑世界模型的研究依赖于通过精准物理干预生成的多模态数据。PhysEditWorld数据集基于虚幻引擎5(UE5)构建,采用重放与渲染的工作流,在保持场景、初始状态、动作序列、角色控制器和相机策略不变的前提下,通过调整重力倍数(0.05g至20.0g共7个等级)生成匹配的重放组。数据采集过程依托UE5的增强输入动作系统、相机摇臂、影片渲染队列以及帧对齐的引擎日志,确保了物理干预的精确可控与数据的原生游戏属性。
使用方法
研究者可通过克隆GitHub仓库获取数据集文档和预期格式,目前完整数据和代码仍在分阶段发布中。待示例子集公开后,用户将能下载具体的视频、元数据、物理配置和辅助图像文件,并基于规范的数据布局(Video、Meta、PhysicalConfig、Aux等目录)加载样本。数据集支持三类评估任务:重力条件化视频生成要求模型根据重力倍数生成符合物理顺序的运动;动作条件化世界建模测试模型在编辑重力下动作回放的连贯性;重力感知视频语言理解则从短片段中预测重力类别和连续值。
背景与挑战
背景概述
PhysEditWorld数据集由研究团队于2026年发布,聚焦于可编辑物理规则的世界模型研究,由来自同一机构的研究人员主导开发。该数据集以重力编辑为核心研究问题,通过保持场景、初始状态、动作序列、角色控制器和相机策略不变,仅改变重力配置生成匹配的重放组,旨在推动物理可编辑世界模型的发展。数据集包含12个电影级Unreal Engine 5环境、100小时以上的游戏交互数据及超过6000万帧渲染画面,覆盖7种重力倍数,提供RGB、深度、法线、音频、动作轨迹及语义标注等多模态观测,为重力条件下的视频生成、动作条件世界建模及重力感知视频语言理解等任务提供了标准化评估基准,对智能体在复杂物理环境中进行可控推理与生成具有重要影响力。
当前挑战
PhysEditWorld所解决的领域挑战在于,现有世界模型难以在推理阶段对物理规则进行实时编辑与干预,导致模型泛化至新物理条件时表现脆弱,尤其是重力等基础物理参数的变化会显著改变动态场景的演化轨迹。构建过程中,挑战包括:1)在UE5引擎中为12个电影级环境设计并实现精确的物理参数干预机制,确保重力编辑不影响场景资产、角色控制器及动作序列的一致性;2)借助电影渲染队列与帧对齐引擎日志,在30FPS下稳定输出1280×720分辨率的16通道多模态数据,同时同步8个相机视角,协调CPU物理模拟与GPU渲染管线;3)处理第三方UE5资产的分发限制,对无法直接发布的商业场景资产需设计替换资产或重建指令,保持数据集的可复现性;4)设计匹配重放组结构,使得所有重力条件下同一动作序列的初始状态、相机移动和角色控制器行为精确对齐,为后续评估物理感知能力的因果效应提供基石。
常用场景
经典使用场景
在计算机视觉与物理仿真交叉领域,PhysEditWorld数据集为研究可控物理规则下的世界模型提供了不可或缺的基准。其经典使用场景聚焦于重力条件化视频生成:研究者将重力倍率(如0.05g至20.0g)作为显式条件输入生成式模型,通过保持场景、动作序列及相机策略完全一致的多模态回放组,系统性地评估生成视频中物体运动轨迹、角色掉落速度及地面交互行为是否遵循预设的物理规律。这一设计使得模型必须学习从视觉外观到物理动力学的深层映射,而非单纯模拟表面纹理。
解决学术问题
PhysEditWorld直接回应了当前世界模型研究中的核心痛点——缺乏具备精确物理编辑控制的规模化多模态数据集。它解决了三个关键学术问题:第一,物理规律编辑后的视频生成一致性评估,传统指标无法衡量模型对重力变化的敏感度;第二,动作条件化第一人称世界建模中的物理偏差问题,即生成序列中角色是否随重力变化而出现合理的加速或滞留;第三,视觉语言模型对物理概念的感知盲区,如从视频片段推断重力倍率。该数据集的意义在于将物理可编辑性确立为世界模型评估的新维度,推动生成式AI向物理感知型智能演进。
实际应用
在实际应用层面,PhysEditWorld为游戏开发、虚拟现实及机器人仿真领域开辟了新的可能。游戏设计师可利用其重力变异回放组,快速验证不同物理参数下关卡的可玩性及视觉一致性,从而降低手工调参成本;在VR环境中,该数据集支撑的物理感知模型能根据用户交互实时调整重力表现,增强沉浸式体验的真实感;机器人领域则可通过学习该数据集中的重力迁移模式,提升在未知引力场中(如外星表面)执行抓取与移动任务的泛化能力。此外,电影特效与模拟训练中,物理编辑世界模型可大幅缩短高保真物理场景的生成周期。
数据集最近研究
最新研究方向
PhysEditWorld数据集聚焦于可编辑物理规则的世界模型研究,以重力参数为核心干预变量,通过大规模多模态数据驱动重力条件感知的视频生成、第一人称动作条件世界建模及重力感知视频语言理解。该数据集利用Unreal Engine 5生成涵盖七个重力倍数的超6000万帧同步多视角数据,开创性地将物理编辑能力引入具身智能体与虚拟环境的交互学习,为构建物理一致且可编辑的世界模型提供了标准化基准。其发布标志着游戏原生数据生成范式与多模态物理推理的深度融合,有望推动沉浸式仿真、机器人策略泛化及人机交互中物理常识的端到端学习。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务