遇见数据集

InfBaGel

收藏
github2026-06-28 更新2026-07-02 收录
官方服务:

资源简介:

该数据集包含人类-物体-场景交互(HOSI)生成所需的数据,包括训练集(OMOMO)和测试集,以及LINGO数据集(仅HSI)。训练集包括SMPL-X人体姿态参数、物体运动参数、场景占用网格、接触标签、文本注释的CLIP特征等。测试集结构类似。LINGO数据集仅包含人类-场景交互数据,无物体运动。数据集用于支持HOSI生成任务,地址为data/目录。

This dataset provides the necessary data for Human-Object-Scene Interaction (HOSI) generation, including the training set (OMOMO), test set, and the LINGO dataset (only for HSI, Human-Scene Interaction). The training set contains SMPL-X human pose parameters, object motion parameters, scene occupancy grids, contact labels, CLIP features of text annotations, and other relevant data. The test set has a similar structure. The LINGO dataset only includes human-scene interaction data without object motion. This dataset is designed to support HOSI generation tasks, and its storage directory is the data/ folder.

创建时间:
2026-06-26
原始信息汇总

数据集简介

InfBaGel 是一个用于人-物-场景交互(HOSI)生成的数据集,旨在支持从文本指令到动态交互运动(包括人体动作、物体运动与场景上下文)的粗到细生成任务。该数据集是 ICLR 2026 论文 "InfBaGel: Human-Object-Scene Interaction Generation with Dynamic Perception and Iterative Refinement" 的官方数据集。

数据组成

数据集包含以下主要子集,存放于项目根目录的 data/ 文件夹下:

1. 训练集 (data/train/)

基于 OMOMO 数据集构建,包含人-物交互(HOI)与场景占用信息,文件结构如下:

  • 人体动作参数:human_orient.npy(SMPL-X 全局朝向)、human_pose.npy(SMPL-X 身体姿态)、transl_aligned.npy(人体平移)、betas.npy(形状参数)、gender.pkl(性别)。
  • 运动分段信息:start_idx.npy、end_idx.npy(每段起止帧)、human_joints_aligned.npy(关节点位置)、rest_human_offsets_aligned.npy(静态关节点偏移)、norm.npy(归一化参数)。
  • 物体运动信息:object_rot_mat.npy(物体旋转矩阵)、object_trans.npy(物体平移)、object_points.npy(物体表面点云)。
  • 映射与场景信息:object_name.pkl(序列到物体名称映射)、scene_name.pkl(帧到场景名称映射)、scene_name2file.pkl(场景名称到占用文件映射)。
  • 文本与接触信息:clip_features.npy(CLIP 文本特征)、text2features_idx.pkl(文本到特征索引映射)。
  • 几何与接触数据:rest_object_geo/(静态物体网格)、cano_object_bps_npy_files_joints24_120/(BPS 特征)、contact_label_npy_files/(手-物接触标签)、language_motion_dict/(语言标注字典)、Scene/(场景占用网格)。

2. 测试集 (data/test/)

与训练集结构相同,额外包含 Scene_vis/ 用于评估场景可视化。

3. LINGO 数据集 (data/dataset/)

仅包含人体-场景交互(HSI),无物体运动。文件包括:人体动作参数、运动分段信息、场景名称、CLIP 特征、文本-特征索引、手-物接触帧索引(left_hand_inter_frame.npy、right_hand_inter_frame.npy)、增强文本标注(text_aug.pkl)、语言标注字典、场景占用网格(训练用 Scene/,评估用 Scene_vis/)。

4. 共享物体几何数据 (data/object/)

包含所有物体的静态网格(rest_object_geo/,格式为 .npy / .ply / .json)以及 256³ 分辨率的 SDF 网格(rest_object_sdf_256_npy_files/)。

5. HOSI 评估测试集 (data/hosi_test/)

包含测试场景的 SDF 文件(Scene_sdf/)、每个序列的测试 JSON 文件(data/)、可视化文件(vis/)。

数据规模与获取

  • 数据来源:OMOMO 数据集(HOI)和 LINGO 数据集(HSI),并通过混合训练策略注入伪 HOSI 样本。
  • 下载地址:Hugging Face Dataset 链接为 https://huggingface.co/datasets/xdzouyd/infbagel-data。
  • 预处理:所有数据已预计算并组织为 .npy、.pkl 等结构化格式,可直接加载使用。

使用场景

该数据集适用于以下研究任务:

  • 人-物-场景交互(HOSI)运动生成
  • 以文本指令为条件的粗到细交互生成
  • 一致性模型与扩散模型的训练与评估

引用

若使用该数据集,请引用以下论文:

@inproceedings{zou2026infbagel, title={InfBaGel: Human-Object-Scene Interaction Generation with Dynamic Perception and Iterative Refinement}, author={Yude Zou and Junji Gong and Xing Gao and Zixuan Li and Tianxing Chen and Guanjie Zheng}, booktitle={The Fourteenth International Conference on Learning Representations}, year={2026}, url={https://openreview.net/forum?id=TeyHNq4WlI} }

此外,基础数据集 OMOMO 和 LINGO 的引用信息也在论文中提及。

搜集汇总
数据集介绍
InfBaGel 数据集图片
构建方式
InfBaGel数据集旨在解决人-物-场景交互生成中动态场景理解与数据稀缺的挑战。其构建融合了伪HOSI样本合成与高保真HSI数据联合训练的策略:通过将体素化场景占据信息注入OMOMO等HOI数据集,生成包含物体与场景动态关系的伪交互样本,并与LINGO等HSI数据集共同训练。数据集包含训练与测试子集,每个序列均存储了SMPL-X人体参数(姿态、形状、位移)、物体刚体运动参数(旋转矩阵与平移向量)、物体表面点云与静态网格,以及场景占据栅格。此外,还提供预计算的CLIP特征、手-物接触标签、基底函数特征及语言注释字典,为多模态交互学习提供了全面支撑。
特点
该数据集的核心特点在于精细的模态对齐与多层次交互表征。它同时捕捉了人体与物体的动态交互、人体与场景的静态适应性,以及物体运动引发的场景占据变化,形成了三元耦合的时空建模基础。数据以帧级姿态参数、物体轨迹与体素化场景栅格并存的形式组织,便于模型学习动态感知。独特的混合训练策略融合了真实高保真HSI数据与通过物理注入生成的伪HOSI样本,有效缓解了标注数据匮乏问题。预计算的CLIP特征与接触标签使语言条件生成与物理合理性约束成为可能,而基底特征与SDF网格则支持细粒度碰撞感知,为实时生成高质量交互运动提供了数据基础。
使用方法
使用InfBaGel数据集需遵循规范的安装与实验流程。首先从Hugging Face下载数据放置于项目data目录,并配置SMPL-X模型与检查点。环境依赖Python 3.8与PyTorch 1.13.1,需按指南安装PyTorch3D及requirements.txt中的包。训练分为扩散模型与一致性模型两个阶段,通过编辑config中的batch_size、lr、epochs等参数进行调优,支持混合数据集训练。评估时可通过config_sample_infbagel.yaml调节分类器自由引导权重w与分类器引导权重guidance_weight。提供HOSI与HOI两种测试脚本,运行后利用render_mesh_from_params.py可恢复人体与物体网格,并借助Blender渲染为视频,实现完整的人-物-场景交互运动生成与可视化验证。
背景与挑战
背景概述
人-物-场景交互(HOSI)生成是具身智能、仿真与动画领域的前沿研究方向,旨在合成符合语义指令的人物与动态物体、复杂场景的协同运动。然而,现有工作多聚焦于分离的人-物交互(HOI)或人-场景交互(HSI),缺乏对三者耦合关系的建模能力,且受限于标注数据匮乏。为此,上海交通大学、上海人工智能实验室等机构的研究人员于2026年提出了InfBaGel数据集与生成框架。该数据集基于OMOMO和LINGO等公开基准构建,包含丰富的SMPL-X人体参数、物体轨迹、场景占用网格及文本标注,共计数万段交互序列。其核心创新在于通过动态感知与迭代精炼策略,在一致性模型的去噪过程中逐步更新场景上下文,从而生成时空一致的人-物-场景交互运动,为相关领域提供了高质量的数据支撑与可复现的评估基准。
当前挑战
InfBaGel所解决的领域核心挑战在于:人-物-场景三者交互的联合推理需要同时处理人体运动、物体动态变化及场景几何约束,而现有数据集鲜有同时涵盖三者且具备精细标注的资源。具体而言,构建过程中面临三大难点:其一,数据稀缺性,真实世界中采集大规模带物体运动和场景交互的标注数据成本高昂,因此需要设计混合训练策略,通过将体素化场景占用注入HOI数据集以合成伪HOSI样本,并联合高保真HSI数据训练;其二,物理合理性,交互中常出现人体与物体或场景的穿透、碰撞等伪影,传统方法依赖精细场景几何进行后处理,而InfBaGel提出基于碰撞感知的引导采样机制,在不牺牲实时性的前提下有效抑制物理异常;其三,动态感知依赖,物体与场景在交互中持续变化,模型需在迭代生成过程中动态更新对环境的表征,这对运动生成框架的时序建模能力提出了更高要求。
常用场景
经典使用场景
InfBaGel数据集的核心应用场景在于驱动人与物体、场景三者之间的复杂交互动作生成。该数据集以SMPL-X人体参数化模型为核心,融合了人体关节运动轨迹、朝向姿态、物体旋转平移以及场景占据网格等多元模态数据。研究者可利用该数据集提供的精细标注,训练能够同时理解人体、物体与场景动态变化关系的生成模型,从而合成诸如“人坐在椅子上并同时推动桌子上的杯子”这类涉及多要素协同的交互序列。尤其适用于需要推理物体在场景中占据空间变化并对人体姿态产生约束的生成任务,为具身智能体在虚拟环境中的行为学习提供了逼真的数据基础。
衍生相关工作
围绕InfBaGel数据集已衍生出数项具有代表性的研究工作。其主体框架继承自OMOMO中物体引导人体运动合成的思路,但进一步将场景占据网格作为动态约束引入去噪过程,形成了基于一致性模型的粗到细迭代生成架构。而LINGO数据集提供的纯场景-人体交互数据则被用于混合训练策略,弥补了带物体标注样本的不足。此外,本工作提出了碰撞感知引导采样机制,在不依赖精细场景几何的前提下有效抑制穿透伪影,这一技术路线对后续实时交互生成研究具有启发性。相关论文已被ICLR 2026接收,标志着该数据集在学术界的认可度。
数据集最近研究
最新研究方向
InfBaGel数据集聚焦于人体-物体-场景交互(HOSI)生成这一前沿方向,旨在解决动态场景感知与数据匮乏的双重挑战。其最新研究围绕粗到细的指令条件化生成框架展开,通过动态感知策略在一致性模型迭代去噪过程中同步更新场景上下文,并引入凸点感知引导以减少穿模和碰撞伪影,实现实时生成。为突破标注数据瓶颈,研究者设计了混合训练策略,将体素化场景占用注入HOI数据集合成伪HOSI样本,并与高保真HSI数据联合训练,在保持真实场景感知能力的同时有效学习交互特征。该工作为具身智能、仿真和动画领域提供了新范式,推动了从静态单一交互向动态多元素协同生成的演进。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务