遇见数据集

saipuneethgottam/pickplace_346cam_newdemos_20260526_161032_remapped

收藏
Hugging Face2026-05-27 更新2026-05-31 收录
官方服务:

资源简介:

该数据集是一个机器人操作数据集,使用LeRobot创建。它包含100个episodes,共53178帧数据,用于机器人学习任务。数据集结构包括动作数据(六个关节位置:shoulder_pan.pos、shoulder_lift.pos、elbow_flex.pos、wrist_flex.pos、wrist_roll.pos、gripper.pos)、观测数据(三个摄像头的视频:camera1和camera2分辨率为1280x720,camera3分辨率为640x480,均为30fps的RGB视频,编码为av1;以及机器人状态观测,同样为六个关节位置)。此外,还包括episode_index、frame_index、index、task_index、timestamp等元数据。数据以parquet格式存储,总数据大小为100MB,视频文件大小为200MB。机器人类型为so_follower,适用于机器人控制和研究任务。

This dataset is a robotics manipulation dataset created using LeRobot. It contains 100 episodes with a total of 53,178 frames for robot learning tasks. The dataset structure includes action data (six joint positions: shoulder_pan.pos, shoulder_lift.pos, elbow_flex.pos, wrist_flex.pos, wrist_roll.pos, gripper.pos), observation data (videos from three cameras: camera1 and camera2 with 1280x720 resolution, camera3 with 640x480 resolution, all RGB videos at 30fps encoded with av1; and robot state observations, also six joint positions). Additionally, it includes metadata such as episode_index, frame_index, index, task_index, and timestamp. The data is stored in parquet format, with a total data size of 100MB and video file size of 200MB. The robot type is so_follower, suitable for robotics control and research tasks.

提供机构:
saipuneethgottam
搜集汇总
数据集介绍
saipuneethgottam/pickplace_346cam_newdemos_20260526_161032_remapped 数据集图片
构建方式
该数据集依托LeRobot框架构建,面向机器人抓取与放置任务,采集了双臂跟随机器人so_follower在真实环境中的操作示范。数据录制过程中,操作者通过遥操作方式引导机器人执行抓取放置动作,系统以30帧每秒的频率同步记录三路摄像头视频流、机器人本体六维关节状态(肩部旋转、肩部升降、肘部弯曲、腕部弯曲、腕部旋转及夹爪位置)与对应动作指令。全部100条演示轨迹经统一时间戳对齐与格式重组,以分块Parquet文件存储,视频以AV1编码压缩,形成结构化、可复现的机器人学习数据集。
特点
该数据集的核心特征体现在多视角感知与精细状态表征的融合。三路摄像头分别以1280×720与640×480分辨率覆盖不同视角,为策略学习提供丰富的空间视觉信息;六维关节位置同时作为观测状态与动作标签,构成端到端的模仿学习监督信号。数据集包含100个回合、共计53178帧,任务类型单一而示范数量充足,适合用于抓取放置技能的模仿学习与策略评估。所有视频采用高效编解码,数据分块组织,兼顾存储效率与读取便利。
使用方法
使用该数据集时,研究者可借助LeRobot官方提供的可视化工具在线浏览示范轨迹,亦可直接加载Parquet数据文件与视频资源进行本地处理。数据按训练集划分,覆盖全部100个回合,用户可通过meta/info.json获取特征维度、帧率、机器人类型及文件路径等元信息,进而将观测图像与关节状态输入模仿学习模型,或将动作序列作为监督目标训练策略网络。数据支持按块索引读取,便于大规模训练中的随机采样与批次加载。
背景与挑战
背景概述
在具身智能与机器人学习领域,抓取与放置任务长期被视为检验感知、规划与控制一体化能力的核心基准。该数据集依托LeRobot框架构建,采用so_follower机器人平台,采集了100条演示轨迹、逾五万帧多视角视觉与关节状态数据,旨在为模仿学习与视觉运动策略提供标准化训练资源。其命名中的“346cam”暗示多相机配置,涵盖不同分辨率视角,而“remapped”则表明数据经过坐标或动作空间的重映射处理,以适配统一策略学习接口。该数据集的出现回应了机器人操作数据稀缺与异构性问题,为社区提供了可复现、可扩展的抓取放置研究基础。
当前挑战
该数据集所应对的领域问题在于复杂视觉条件下机器人抓取放置策略的泛化能力,即如何从有限演示中学习鲁棒的动作映射。构建过程中的挑战包括多相机时空对齐与标定一致性、不同分辨率视频流的同步采集与压缩、动作空间重映射带来的语义保真问题,以及演示轨迹中潜在的环境扰动与操作者偏差。此外,单一任务设定与有限场景多样性可能制约策略向新物体、新布局的迁移,而长时序视频数据的存储与解码效率亦对训练流程构成实际约束。
常用场景
经典使用场景
在具身智能与机器人操作学习领域,抓取与放置任务长期以来被视作检验策略泛化能力的基准命题。该数据集由LeRobot框架构建,涵盖100个演示回合、逾五万帧的多视角同步观测,每条轨迹均对齐六自由度机械臂的关节位置与夹爪状态,并配备三路不同分辨率的视觉流。研究者通常将其用于模仿学习中的行为克隆训练,或作为视觉-语言-动作模型的微调语料,使智能体得以从高维感知输入中习得端到端的操作映射。
解决学术问题
该数据集直面机器人学习中演示稀缺与感知单一两大症结。三路摄像头从不同方位捕捉操作场景,有效缓解了单视角下的遮挡与深度歧义问题,为策略网络提供更为完备的空间表征。统一的任务索引与时间戳字段,则使得跨回合的时序对齐与动作分块研究成为可能。其开源属性亦有助于消弭不同实验室间数据格式割裂所导致的复现困难,为操作策略的可比评测奠定基础。
衍生相关工作
依托LeRobot生态,该数据集可与ACT、Diffusion Policy等主流模仿学习基线相结合,催生出一系列面向多视角输入的策略改进工作。部分研究以其为基准,探索视觉编码器的跨视角融合机制;亦有工作围绕动作分块与时间集成展开消融实验,评估不同时序建模对抓放精度的影响。数据集的重映射版本进一步推动了跨本体迁移与数据增强方法的验证,为后续研究提供了可复用的实验基线。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务