five

MS-HAB-TidyHouse

收藏
Hugging Face2024-12-20 更新2024-12-21 收录
下载链接:
https://huggingface.co/datasets/arth-shukla/MS-HAB-TidyHouse
下载链接
链接失效反馈
官方服务:
资源简介:
ManiSkill-HAB TidyHouse数据集是一个用于ManiSkill-HAB TidyHouse的全身低级控制/操作演示数据集。每个子任务/对象组合(例如pick 002_master_chef_can)有1000个成功的剧集(200个样本/演示),这些剧集是使用RL策略收集的,这些策略经过过滤以确保机器人行为安全,并使用基于规则的事件标注系统进行标注。TidyHouse包含拾取和放置子任务。相对于其他MS-HAB长期任务(如PrepareGroceries、SetTable),TidyHouse拾取任务的难度大约为中等,而TidyHouse放置任务的难度为中等至困难。该数据集可用于训练基于视觉的学习演示和模仿学习方法,并可作为计算机视觉任务的合成数据。
创建时间:
2024-12-11
原始信息汇总

ManiSkill-HAB TidyHouse Dataset

数据集概述

  • 语言: 英语 (en)
  • 许可证: MIT
  • 标签: 机器人学, 操作, 重排, 计算机视觉, 强化学习, 模仿学习, RGBD, RGB, 深度, 低级控制, 全身控制, 家庭助手, 仿真, ManiSkill
  • 注释创建者: 机器生成
  • 语言创建者: 机器生成
  • 语言详情: 美式英语 (en-US)
  • 数据集名称: ManiSkill-HAB TidyHouse Dataset
  • 数据集大小: 1M < n < 10M (包含18K个片段和3.6M个转换)
  • 任务类别: 机器人学, 强化学习
  • 任务ID: 抓取, 任务规划

数据集配置

抓取任务

  • pick-002_master_chef_can:
    • 轨迹文件: pick/002_master_chef_can.h5
    • 元数据文件: pick/002_master_chef_can.json
  • pick-003_cracker_box:
    • 轨迹文件: pick/003_cracker_box.h5
    • 元数据文件: pick/003_cracker_box.json
  • pick-004_sugar_box:
    • 轨迹文件: pick/004_sugar_box.h5
    • 元数据文件: pick/004_sugar_box.json
  • pick-005_tomato_soup_can:
    • 轨迹文件: pick/005_tomato_soup_can.h5
    • 元数据文件: pick/005_tomato_soup_can.json
  • pick-007_tuna_fish_can:
    • 轨迹文件: pick/007_tuna_fish_can.h5
    • 元数据文件: pick/007_tuna_fish_can.json
  • pick-008_pudding_box:
    • 轨迹文件: pick/008_pudding_box.h5
    • 元数据文件: pick/008_pudding_box.json
  • pick-009_gelatin_box:
    • 轨迹文件: pick/009_gelatin_box.h5
    • 元数据文件: pick/009_gelatin_box.json
  • pick-010_potted_meat_can:
    • 轨迹文件: pick/010_potted_meat_can.h5
    • 元数据文件: pick/010_potted_meat_can.json
  • pick-024_bowl:
    • 轨迹文件: pick/024_bowl.h5
    • 元数据文件: pick/024_bowl.json

放置任务

  • place-002_master_chef_can:
    • 轨迹文件: place/002_master_chef_can.h5
    • 元数据文件: place/002_master_chef_can.json
  • place-003_cracker_box:
    • 轨迹文件: place/003_cracker_box.h5
    • 元数据文件: place/003_cracker_box.json
  • place-004_sugar_box:
    • 轨迹文件: place/004_sugar_box.h5
    • 元数据文件: place/004_sugar_box.json
  • place-005_tomato_soup_can:
    • 轨迹文件: place/005_tomato_soup_can.h5
    • 元数据文件: place/005_tomato_soup_can.json
  • place-007_tuna_fish_can:
    • 轨迹文件: place/007_tuna_fish_can.h5
    • 元数据文件: place/007_tuna_fish_can.json
  • place-008_pudding_box:
    • 轨迹文件: place/008_pudding_box.h5
    • 元数据文件: place/008_pudding_box.json
  • place-009_gelatin_box:
    • 轨迹文件: place/009_gelatin_box.h5
    • 元数据文件: place/009_gelatin_box.json
  • place-010_potted_meat_can:
    • 轨迹文件: place/010_potted_meat_can.h5
    • 元数据文件: place/010_potted_meat_can.json
  • place-024_bowl:
    • 轨迹文件: place/024_bowl.h5
    • 元数据文件: place/024_bowl.json

数据集详情

数据集描述

ManiSkill-HAB TidyHouse 数据集是一个用于 ManiSkill-HAB TidyHouse 的全身低级控制/操作演示数据集。每个子任务/对象组合(例如 pick 002_master_chef_can)有 1000 个成功的片段(200 个样本/演示),这些片段是通过 RL 策略 收集的,并使用基于规则的事件标注系统进行过滤以确保机器人行为安全。

TidyHouse 包含抓取和放置子任务。相对于其他 MS-HAB 长时任务(PrepareGroceries, SetTable),TidyHouse 抓取任务的难度为中等,而 TidyHouse 放置任务的难度为中等至困难(在简单-中等-困难的范围内)。

相关数据集

有关 MS-HAB 数据集的完整信息(大小、难度、链接等),包括其他长时任务,请访问 ManiSkill-HAB 网站

使用场景

直接使用

该数据集可用于训练基于视觉的学习演示和模仿学习方法,这些方法可以在 MS-HAB 环境 中进行评估。该数据集也可作为计算机视觉任务的合成数据使用。

超出范围的使用

虽然可以基于此数据集训练盲状态策略,但建议训练基于视觉的策略以处理碰撞和障碍。

数据集结构

每个子任务/对象组合都有文件 [SUBTASK]/[OBJECT].json[SUBTASK]/[OBJECT].h5。JSON 文件包含片段元数据、事件标签等,而 HDF5 文件包含演示数据。

数据集创建

数据是通过 RL 策略 收集的,并使用基于规则的事件标注系统进行过滤以确保机器人行为安全。

偏差、风险和限制

该数据集完全是合成的。

虽然 MS-HAB 支持高质量的光线追踪渲染,但由于效率原因,该数据集使用 ManiSkill 的默认渲染进行数据生成。然而,用户可以使用 数据生成代码 生成自己的数据。

引用

@article{shukla2024maniskillhab, author = {Arth Shukla and Stone Tao and Hao Su}, title = {ManiSkill-HAB: A Benchmark for Low-Level Manipulation in Home Rearrangement Tasks}, journal = {CoRR}, volume = {abs/2412.13211}, year = {2024}, url = {https://doi.org/10.48550/arXiv.2412.13211}, doi = {10.48550/ARXIV.2412.13211}, eprinttype = {arXiv}, eprint = {2412.13211}, timestamp = {Mon, 09 Dec 2024 01:29:24 +0100}, biburl = {https://dblp.org/rec/journals/corr/abs-2412-13211.bib}, bibsource = {dblp computer science bibliography, https://dblp.org} }

搜集汇总
数据集介绍
main_image_url
构建方式
MS-HAB-TidyHouse数据集通过使用强化学习策略生成,并经过基于规则的事件标注系统进行筛选,确保机器人行为的稳定性。每个子任务/对象组合(如pick 002_master_chef_can)包含1000个成功的演示片段,每个片段包含200个样本。数据集的构建旨在提供高质量的低级别控制和操作演示,适用于家庭助手任务中的整理任务。
特点
该数据集的主要特点在于其合成性质和高质量的演示数据,适用于视觉基础的学习和模仿学习方法。数据集包含了Pick和Place两个子任务,难度从中等到较难不等,适合用于训练和评估机器人操作技能。此外,数据集的结构清晰,每个子任务/对象组合都有相应的JSON和HDF5文件,分别存储元数据和演示数据。
使用方法
MS-HAB-TidyHouse数据集可用于训练基于视觉的模仿学习模型,并可在MS-HAB环境中进行评估。数据集的合成性质使其特别适合用于计算机视觉任务的训练。用户可以通过访问相应的JSON和HDF5文件来获取演示数据和元数据,进行模型的训练和测试。尽管数据集支持盲状态策略的训练,但建议使用基于视觉的策略以更好地处理碰撞和障碍。
背景与挑战
背景概述
MS-HAB-TidyHouse数据集是由Arth Shukla、Stone Tao和Hao Su等研究人员于2024年创建的,旨在为家庭重排任务中的低级操作提供一个全面的基准。该数据集专注于机器人操作、重排和计算机视觉领域,特别是通过强化学习和模仿学习来解决抓取和任务规划问题。MS-HAB-TidyHouse数据集包含18,000个成功操作的轨迹,涵盖了多种物体和子任务,如抓取和放置。这些数据是通过强化学习策略生成的,并经过规则过滤以确保机器人行为的安全性。该数据集的发布不仅为机器人操作研究提供了丰富的资源,还为计算机视觉任务提供了有价值的合成数据。
当前挑战
MS-HAB-TidyHouse数据集在构建过程中面临多项挑战。首先,生成高质量的机器人操作轨迹需要复杂的强化学习策略,并确保这些策略在实际应用中是安全且有效的。其次,数据集的多样性和覆盖范围也是一个挑战,因为需要涵盖多种物体和操作场景,以确保训练的模型具有广泛的适用性。此外,尽管数据集使用了高效的渲染技术,但其默认渲染可能无法完全捕捉真实世界中的复杂光照和材质效果,这可能影响模型在实际环境中的表现。最后,数据集的标注系统依赖于规则过滤,这可能限制了其对复杂场景的适应性,尤其是在处理碰撞和障碍物时。
常用场景
经典使用场景
MS-HAB-TidyHouse数据集主要用于训练基于视觉的模仿学习和示教学习方法,特别适用于机器人操作和家庭辅助任务中的抓取和放置子任务。该数据集通过提供大量的成功操作轨迹,帮助模型学习如何在复杂环境中进行有效的物体操作,从而提升机器人在实际应用中的操作能力。
衍生相关工作
基于MS-HAB-TidyHouse数据集,研究者们开发了多种机器人操作算法和模型,特别是在模仿学习和强化学习领域。这些工作不仅提升了机器人在复杂环境中的操作能力,还为其他相关任务如准备食材和餐桌布置提供了技术支持,进一步推动了家庭助手机器人的技术发展。
数据集最近研究
最新研究方向
在机器人与计算机视觉的交叉领域,MS-HAB-TidyHouse数据集的最新研究方向主要集中在通过强化学习和模仿学习技术,提升机器人对复杂家居环境中的物体操控能力。该数据集通过模拟真实家居场景中的物体抓取与放置任务,为研究者提供了一个高质量的训练平台。前沿研究不仅关注于如何利用该数据集优化视觉感知与低级控制策略,还探索了如何通过合成数据增强计算机视觉任务的鲁棒性。此外,该数据集的发布也推动了家庭助手机器人在实际应用中的技术进步,尤其是在处理复杂任务规划和多物体交互方面,具有重要的理论与实践意义。
以上内容由遇见数据集搜集并总结生成
5,000+
优质数据集
54 个
任务类型
进入经典数据集
二维码
社区交流群

面向社区/商业的数据集话题

二维码
科研交流群

面向高校/科研机构的开源数据集话题

数据驱动未来

携手共赢发展

商业合作