five

Leejungwook/cube_swap_term_project_v3

收藏
Hugging Face2026-05-29 更新2026-05-31 收录
下载链接:
https://hf-mirror.com/datasets/Leejungwook/cube_swap_term_project_v3
下载链接
链接失效反馈
官方服务:
资源简介:
--- license: apache-2.0 task_categories: - robotics tags: - LeRobot configs: - config_name: default data_files: data/*/*.parquet --- This dataset was created using [LeRobot](https://github.com/huggingface/lerobot). <a class="flex" href="https://huggingface.co/spaces/lerobot/visualize_dataset?path=Leejungwook/cube_swap_term_project_v3"> <img class="block dark:hidden" src="https://huggingface.co/datasets/huggingface/badges/resolve/main/visualize-this-dataset-xl.svg"/> <img class="hidden dark:block" src="https://huggingface.co/datasets/huggingface/badges/resolve/main/visualize-this-dataset-xl-dark.svg"/> </a> ## Dataset Description - **Homepage:** [More Information Needed] - **Paper:** [More Information Needed] - **License:** apache-2.0 ## Dataset Structure [meta/info.json](meta/info.json): ```json { "codebase_version": "v3.0", "robot_type": "bi_piper_follower", "total_episodes": 10, "total_frames": 13737, "total_tasks": 1, "chunks_size": 1000, "data_files_size_in_mb": 100, "video_files_size_in_mb": 200, "fps": 30, "splits": { "train": "0:10" }, "data_path": "data/chunk-{chunk_index:03d}/file-{file_index:03d}.parquet", "video_path": "videos/{video_key}/chunk-{chunk_index:03d}/file-{file_index:03d}.mp4", "features": { "action": { "dtype": "float32", "names": [ "left_joint1.pos", "left_joint2.pos", "left_joint3.pos", "left_joint4.pos", "left_joint5.pos", "left_joint6.pos", "left_gripper.pos", "right_joint1.pos", "right_joint2.pos", "right_joint3.pos", "right_joint4.pos", "right_joint5.pos", "right_joint6.pos", "right_gripper.pos" ], "shape": [ 14 ] }, "observation.state": { "dtype": "float32", "names": [ "left_joint1.pos", "left_joint2.pos", "left_joint3.pos", "left_joint4.pos", "left_joint5.pos", "left_joint6.pos", "left_gripper.pos", "right_joint1.pos", "right_joint2.pos", "right_joint3.pos", "right_joint4.pos", "right_joint5.pos", "right_joint6.pos", "right_gripper.pos" ], "shape": [ 14 ] }, "observation.images.left_main": { "dtype": "video", "shape": [ 720, 1280, 3 ], "names": [ "height", "width", "channels" ], "info": { "video.height": 720, "video.width": 1280, "video.codec": "av1", "video.pix_fmt": "yuv420p", "video.is_depth_map": false, "video.fps": 30, "video.channels": 3, "has_audio": false } }, "observation.images.left_wrist": { "dtype": "video", "shape": [ 480, 640, 3 ], "names": [ "height", "width", "channels" ], "info": { "video.height": 480, "video.width": 640, "video.codec": "av1", "video.pix_fmt": "yuv420p", "video.is_depth_map": false, "video.fps": 30, "video.channels": 3, "has_audio": false } }, "observation.images.right_wrist": { "dtype": "video", "shape": [ 480, 640, 3 ], "names": [ "height", "width", "channels" ], "info": { "video.height": 480, "video.width": 640, "video.codec": "av1", "video.pix_fmt": "yuv420p", "video.is_depth_map": false, "video.fps": 30, "video.channels": 3, "has_audio": false } }, "timestamp": { "dtype": "float32", "shape": [ 1 ], "names": null }, "frame_index": { "dtype": "int64", "shape": [ 1 ], "names": null }, "episode_index": { "dtype": "int64", "shape": [ 1 ], "names": null }, "index": { "dtype": "int64", "shape": [ 1 ], "names": null }, "task_index": { "dtype": "int64", "shape": [ 1 ], "names": null } } } ``` ## Citation **BibTeX:** ```bibtex [More Information Needed] ```
提供机构:
Leejungwook
搜集汇总
数据集介绍
main_image_url
构建方式
在机器人学习与操控领域,高质量的数据集是推动算法进步的关键基石。cube_swap_term_project_v3 数据集基于 LeRobot 框架构建,旨在为双臂机器人操控任务提供标准化训练资源。该数据集利用 bi_piper_follower 机器人平台,通过遥操作方式采集了10个完整操控回合,共计13737帧数据,涵盖单一物体交换任务。数据以分块形式存储于 Parquet 文件中,并同步录制三路高清视频流(左主摄像头、左右腕部摄像头),分别以1280×720和640×480分辨率、30帧每秒的速率捕获机器人视角与环境细节。此外,数据集严格遵循LeRobot v3.0协议,将动作指令(action)与观测状态(observation.state)均编码为14维浮点向量,对应双臂各6个关节位置与夹爪状态,实现了执行与感知的精准对齐。
特点
该数据集最突出的特点在于其多模态集成与高保真度。动作与状态空间均包含14维连续值,覆盖双臂完整运动学链,为模仿学习中的策略映射提供了细粒度监督。视觉模态包含三路独立视频流,其中主摄像头提供全局场景认知,而双腕部摄像头则捕捉局部操作细节,这种空间分级的视觉架构尤其适用于精密抓取与物体交换任务。数据采集频率严格统一为30Hz,确保动作、状态与视觉帧的时间戳精确同步。数据集总规模约300MB(数据文件100MB,视频200MB),以1000帧为单位的块结构便于分布式加载与内存管理。所有10个回合均被划分为训练集,无验证/测试划分,适合用于小样本场景下的策略预训练或微调。
使用方法
使用该数据集时,推荐基于LeRobot生态的API进行加载与解析。用户可通过`datasets.load_dataset`函数直接指定`Leejungwook/cube_swap_term_project_v3`路径,自动获取Parquet格式的表格数据与关联的视频文件。在复现实验中,应将14维动作向量作为逆动力学模型的监督信号或扩散策略的目标分布,而观测状态与视觉图片可拼接为状态-图像对输入策略网络。由于数据集仅含单一任务,建议在训练时采用回合级数据增强(如时序裁剪、噪声注入)以提升泛化性。此外,互动式可视化工具(Hugging Face Space中的`visualize_dataset`)允许用户逐帧浏览动作轨迹与对应视频,便于数据质量检查与异常行为排查。
背景与挑战
背景概述
cube_swap_term_project_v3数据集由研究人员Leejungwook于近期创建,依托HuggingFace的LeRobot开源框架构建,专注于机器人操控领域的模仿学习研究。该数据集以双机械臂(bi_piper_follower)执行立方体交换任务为核心场景,通过10个演示片段、共计13737帧的高频(30FPS)多视角视频与关节状态数据,旨在为机器人精细操作技能的泛化提供标准化训练资源。其采用Apache-2.0许可协议开放,弥补了现有机器人数据集中双机械臂协同任务标注的不足,为推动机械臂自主决策与运动规划研究奠定了数据基础。
当前挑战
该数据集所面对的领域挑战集中于双机械臂协同操作中的模仿学习难题,包括如何让机器人从少量演示中高效泛化到未见过的工作空间布局与物体位姿变化。构建过程中,数据采集面临多视角摄像头标定与音视频同步的精度要求,以及14维关节动作空间在连续控制中的噪声抑制。此外,仅10个演示片段的数据量限制了模型对复杂操作轨迹的拟合能力,而高分辨率视频(1280×720)的大体量(200MB视频文件)对存储与实时处理提出了额外考验。
常用场景
经典使用场景
在机器人操作与模仿学习的研究领域中,cube_swap_term_project_v3数据集为双臂协作型机器人提供了精细的操纵基准。该数据集基于bi_piper_follower机器人平台采集,涵盖了10个完整回合的立方体交换任务演示,每回合包含高保真的关节状态数据与多视角视觉观测(包括左主摄像头、左腕部与右腕部三路视频流)。研究者可利用这一数据训练基于行为的克隆(Behavioral Cloning)或隐式策略学习模型,通过融合14维关节动作序列与720p/480p分辨率的图像信息,实现对诸如抓取、传递与放置等非预定义规划的技能迁移。数据集以LeRobot格式(v3.0)封装,动作与观测状态的维度对齐使其天然适用于端到端策略的离线训练,尤其适合验证多任务泛化性及多模态融合在精细操作场景中的表现。
实际应用
在实际部署层面,cube_swap_term_project_v3为工业机器人的人机协作与自动化生产线提供了可迁移的经验基础。例如,在电子元器件装配或精密部件分拣中,双臂机器人需要协同完成抓取、传递与对位等动作,该数据集所包含的技能演示可直接用于训练类似场景中的感知-动作闭环。基于其动作格式与视觉输入,开发者能够快速将策略迁移至其他双臂平台,降低对昂贵人工示教的依赖。此外,数据集还适用于服务型机器人(如家庭或实验室中的物体递送)中的安全交互场景,其内置的多视角影像有助于应对环境光照变化与遮挡等挑战,从而提升机器人在非结构化环境中作业的可靠性。
衍生相关工作
该数据集衍生出一系列聚焦于策略架构与表征学习的前沿工作。首先,基于其多模态联合分布特性,研究者开发了结合Transformer与扩散模型的决策网络(如Diffusion Policy),利用数据中的动作与图像序列预测高维连续操作。其次,数据集推动了对高效回放缓冲与数据增强方法的研究,例如时序裁剪与视角扰动以提升数据效率。此外,有工作利用其状态空间的对称性(如左右臂姿态镜像)来设计参数共享的孪生网络,显著减少训练参数量。LeRobot团队还将其作为基准测试,比较了BC、CQL及ACT算法在有限样本下的性能差异,从而为低资源场景下的策略选择提供了实证指导。这些探索共同推动了从演示学习到通用操作原语的范式转型。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务