droid_merged_skills_scooping

该数据集是jellyho/droid_merged_skills_scooping数据集的TsFile转换版本，专注于scooping（舀取）技能，使用Franka机器人收集的时序数据。数据集合并了语言过滤的DROID技能子集和新收集的环境数据，包含319个episodes、102,576帧/行、301个独特任务，采样率为10 fps，仅用于训练。数据字段包括时间戳、episode索引、任务索引、状态观测（如关节位置、夹爪位置）、动作（如关节速度、夹爪位置）、相机外参等，并以扁平化标量字段形式存储。数据集采用Apache-2.0许可证，适用于机器人学习任务。

This dataset is a TsFile conversion version of the jellyho/droid_merged_skills_scooping dataset, focusing on the scooping skill, collected using a Franka robot as time-series data. It merges a language-filtered subset of DROID skills with newly collected environmental data, containing 319 episodes, 102,576 frames/rows, and 301 unique tasks, with a sampling rate of 10 fps, and is intended for training only. Data fields include timestamps, episode index, task index, state observations (such as joint positions, gripper positions), actions (such as joint velocities, gripper positions), camera extrinsic parameters, etc., stored in flattened scalar fields. The dataset uses the Apache-2.0 license and is suitable for robotic learning tasks.

原始信息汇总

数据集概述：Merged DROID Skill Dataset: scooping (TsFile)

数据集标识符：zjt24/droid_merged_skills_scooping
许可证：Apache-2.0
任务类别：机器人学（Robotics）
标签：LeRobot、DROID、机器人学、技能过滤、合并、关节速度动作、夹爪位置、舀取、TsFile、时间序列
展示名称：Merged DROID Skill Dataset: scooping (TsFile)

1. 数据集来源与构成

• 原始数据集：来源于 jellyho/droid_merged_skills_scooping，是一个合并的 LeRobot v2.1 / DROID 数据集，专注于 scooping（舀取） 技能，使用 Franka 机器人采集的 episodes。
• 合并来源：
  • jellyho/droid_subsets_scooping：包含经过语言过滤的 DROID 技能子集，300 个 episodes。
  • jellyho/droid_scoop_candy：新采集的同技能环境数据，19 个 episodes。

2. 数据规模与拆分

项目	数值
总 Episodes	319
帧数 / 转换后行数	102,576
唯一任务数	301
采样率	10 fps
拆分情况	训练集（train）：索引 0-318，共 319 个 episodes
源 Episode Parquet 文件	319 个
源视频文件	638 个

3. 动作与状态表示

• 紧凑的 LeRobot 训练字段被标准化为 8 维向量：
  • observation.state = [joint_position_0..6, gripper_position]
  • action = [joint_velocity_0..6, gripper_position]
• 动作来源：
  • 原始 DROID 子集：action 由 action.joint_velocity 加上 action.gripper_position 推导得出。
  • 新采集数据：action 由 observation.joint_velocities[:7] 加上采集到的夹爪位置（来自原始 action 向量）推导得出。

4. 转换后布局

• 存储仓库：仅包含一个 TsFile 文件用于训练集：
  • data/droid_merged_skills_scooping.tsfile
• 额外元数据：位于 meta/ 目录下，包括 episodes.csv 和 merge_summary.json。
• 视频文件：未镜像到本仓库，原始视频仍然在源数据集的 videos/ 目录下（链接：视频目录），视频键为：
  • observation.images.wrist_left
  • observation.images.side_view_1_left

5. TsFile 模式（Schema）

• 时间列：Time，整数毫秒，计算方式为 round(timestamp * 1000)。
• 标签（TAG）列：
  • episode_index
  • task_index
• 字段（FIELD）列：
  • frame_index、sample_index（源数据中 index 列的别名）
  • 标量任务与语言字段：language_instruction、language_instruction_2、language_instruction_3、task_category、prompt
  • 标量元数据字段：building、collector_id、date
  • 逻辑布尔标志：is_first、is_last、is_terminal、is_episode_successful
  • 标量奖励/折扣以及所有扁平化的状态、动作和相机外参测量值

扁平化向量组映射：

源列名	转换后字段名
observation.state.cartesian_position	observation_state_cartesian_position_0 至 _5
observation.state.joint_position	observation_state_joint_position_0 至 _6
observation.state	observation_state_0 至 _7
action.cartesian_position	action_cartesian_position_0 至 _5
action.cartesian_velocity	action_cartesian_velocity_0 至 _5
action.joint_position	action_joint_position_0 至 _6
action.joint_velocity	action_joint_velocity_0 至 _6
action	action_0 至 _7
camera_extrinsics.wrist_left	camera_extrinsics_wrist_left_0 至 _5
camera_extrinsics.exterior_1_left	camera_extrinsics_exterior_1_left_0 至 _5
camera_extrinsics.exterior_2_left	camera_extrinsics_exterior_2_left_0 至 _5

6. 转换说明

• 使用通用 LeRobot 转换器以脚本模式进行转换。
• Time 为毫秒整数，在每个 episode 内重新开始计时。
• 源数据中的 timestamp 列未保留为 FIELD，因其等效于 Time / 1000（秒）。
• 源数据中的 index 列被重命名为 sample_index。
• 向量/列表列被扁平化为标量字段：保留源前缀，将 . 替换为 _，并附加元素索引。
• episode_index 和 task_index 被声明为 TsFile 的 TAG 列；其余标量列为 FIELD 列。
• 转换后的 TsFile 包含 102,576 行，与源帧数和暂存 Parquet 行数一致。
• 源视频被有意排除在此转换仓库之外；视频对齐元数据保留在 meta/info.json 中。

7. 最小读取示例

python from huggingface_hub import hf_hub_download from tsfile import TsFileReader

path = hf_hub_download( repo_id="zjt24/droid_merged_skills_scooping", repo_type="dataset", filename="data/droid_merged_skills_scooping.tsfile", )

reader = TsFileReader(path) schemas = reader.get_all_table_schemas() print(schemas.keys())

with reader.query_table( "droid_merged_skills_scooping", ["episode_index", "task_index", "frame_index", "observation_state_0"], batch_size=1024, ) as result: batch = result.read_arrow_batch() print(batch)