遇见数据集

sroiv2_strawberry_picking_lab_validation

收藏
Hugging Face2026-08-17 更新2026-08-18 收录
官方服务:

资源简介:

该数据集是SROI v2草莓采摘项目(浙江大学)的独立验证集,包含100个人类草莓采摘演示,在实验室环境中使用SROI V2手持数据采集装置录制。该装置为UMI风格夹爪,集成Intel RealSense D405立体相机(18mm基线,零畸变),以30 fps采集480×640 RGB第一人称视角视频。采集过程中不涉及机器人手臂,7自由度末端执行器动作(位置x、y、z,方向wx、wy、wz,夹爪位置)通过离线ORB-SLAM3立体SLAM(带夹爪掩模)和AprilTag夹爪位姿估计(中值滤波3)恢复。数据采用LeRobot v3.0格式(Parquet + AV1视频),共100个片段、9274帧,总大小约155 MB。任务为单一采摘草莓任务。验证集与训练集采集日期不同(验证集为2026-07-14,训练集为2026-07-09之后),确保无片段泄漏。每个片段保留了相机内参。夹爪位置通道经归一化到[0,1]。该数据集可直接作为训练集(zfff/sroiv2_strawberry_picking_lab_1459_occlusion)的验证集使用。

This dataset is a standalone validation set for the SROI v2 strawberry picking project (Zhejiang University), containing 100 human strawberry picking demonstrations recorded in a laboratory environment using the SROI V2 handheld data collection device. The device is a UMI-style gripper integrated with an Intel RealSense D405 stereo camera (18mm baseline, zero distortion), capturing 480×640 RGB first-person-view videos at 30 fps. No robot arm is involved during collection; the 7-DOF end-effector actions (position x, y, z, orientation wx, wy, wz, and gripper position) are recovered via offline ORB-SLAM3 stereo SLAM (with gripper mask) and AprilTag gripper pose estimation (median filter 3). The data is in LeRobot v3.0 format (Parquet + AV1 video), with 100 episodes and 9274 frames, totaling approximately 155 MB. The task is a single strawberry picking task. The validation set and training set are collected on different dates (validation set: 2026-07-14, training set: after 2026-07-09), ensuring no episode leakage. Camera intrinsics are retained for each episode. The gripper position channel is normalized to [0,1]. This dataset can be directly used as the validation set for the training set (zfff/sroiv2_strawberry_picking_lab_1459_occlusion).

创建时间:
2026-08-14
原始信息汇总

数据集概述

SROI v2 — Strawberry Picking (Lab) — Validation Set 是一个机器人操作领域的验证集,用于草莓采摘任务。该数据集由浙江大学创建,包含 100个人类演示,使用手持式数据采集设备在实验室环境中录制。

关键信息

项目 内容
任务 采摘草莓(单一任务,共100个片段)
数据规模 100个片段,9,274帧
帧率 30 fps
格式 LeRobot v3.0(Parquet + AV1视频)
观测数据 observation.images.camera — 480×640×3 RGB视频
动作数据 action — 7维float32:末端位置(3) + 末端姿态(3) + 夹爪位置(1)
总大小 约155 MB
许可证 Apache-2.0

数据采集与处理

  • 采集设备:SROI V2手持数据采集装置(UMI风格夹爪,集成Intel RealSense D405立体相机)
  • 采集方式:人类手持演示,非机械臂录制
  • 处理流程:MP4解码 → ORB-SLAM3立体轨迹估计(带夹爪掩膜)→ 轨迹变换 → AprilTag夹爪姿态估计 → 可视化质检 → LeRobot格式转换
  • 质检结果:全部100个片段均通过视觉质检(0个丢弃)

数据集结构

  • 元数据:每个片段的相机内参保存在 meta/camera_info/
  • 时间划分:验证集录制日期为 2026-07-14,与训练集(2026-07-09起)录制日期不同,确保训练与验证之间无片段重叠
  • 兼容性:与训练集任务、帧率和数据结构完全一致,可直接作为验证集使用

使用示例

python from lerobot.datasets.lerobot_dataset import LeRobotDataset

dataset = LeRobotDataset("zfff/sroiv2_strawberry_picking_lab_validation") episode = dataset[0] # 包含 "observation.images.camera", "action" 等

相关链接

  • 项目页面:https://agroboticsresearch.github.io/sroi_v2/
  • 所有SROI数据集:https://agroboticsresearch.github.io/sroi_datasets/
  • 训练集对应版本:https://huggingface.co/datasets/zfff/sroiv2_strawberry_picking_lab_1459_occlusion
  • 可视化工具:https://huggingface.co/spaces/lerobot/visualize_dataset?path=zfff/sroiv2_strawberry_picking_lab_validation

引用

Hou, L., Lu, W., Wang, Y., Peng, C., & Fei, Z. (2025). Strawberry Robotic Operation Interface: An Open-Source Device for Collecting Dexterous Manipulation Data in Robotic Strawberry Cultivation. IFAC-PapersOnLine, 59(23), 303–308.

搜集汇总
数据集介绍
sroiv2_strawberry_picking_lab_validation 数据集图片
构建方式
该验证集源自浙江大学SROI v2草莓采摘项目,旨在为机器人灵巧操作提供真实的人类示范数据。数据采集于2026年7月14日,与训练集(7月9日起)分属不同日期,从根本上杜绝了情节泄漏。采集过程使用SROI V2手持式数据采集装置,其配备集成Intel RealSense D405立体相机,以30帧/秒的速率记录第一人称视角的RGB视频(480×640分辨率)。在离线处理阶段,通过ORB-SLAM3立体视觉算法(配合夹爪掩膜)恢复装置轨迹,并利用AprilTag标记估算夹爪开合状态,经过中值滤波和视觉质量检验后,转换至LeRobot v3.0格式(Parquet与AV1视频)。最终构建了包含100个情节、总计9274帧的验证数据集,动作空间为7维(末端位置、姿态及夹爪位置),所有片段均通过质量检查,确保与训练集具有一致的处理流程和直接可比性。
特点
该数据集的核心优势在于其采集方式与部署场景的巧妙设计。数据由人类使用SROI V2手持装置在实验室中对活体草莓植株进行采摘演示,全程无需机械臂介入,从而以最自然的方式捕捉灵巧操作轨迹。相机视角与后续部署的机械臂所携带的相同末端执行器视角完全一致,这极大地提升了模仿学习在域迁移时的鲁棒性。数据处理管线采用掩膜SLAM策略,与训练集完全一致,保证了轨迹的可比性;夹爪位置通道经过稳健池化归一化至[0,1]区间,以适配算法需求。此外,每个情节的相机内参均被妥善保存于元数据中,便于精确的视觉几何计算。其规模适中(约155MB),格式标准化,可直接集成到LeRobot工作流中,为草莓采摘操作策略的验证提供了可靠的基准。
使用方法
该数据集专为机器人操作策略的验证阶段设计,可作为训练集(zfff/sroiv2_strawberry_picking_lab_1459_occlusion)的留出验证子集。研究者可利用LeRobot库便捷加载,只需一行代码:`from lerobot.datasets.lerobot_dataset import LeRobotDataset; dataset = LeRobotDataset("zfff/sroiv2_strawberry_picking_lab_validation")`,即可获得包含观测图像、动作标签、时间戳及索引的迭代对象。由于数据格式、任务和帧率与训练集完全一致,可直接在现有训练与评估管道中作为验证集使用,无需额外适配。可视化工具(如HuggingFace Spaces)支持交互式浏览,便于进行定性检查和结果展示。该数据集还附有详细的元数据结构和引用信息,方便学术研究中的复现与引用。
背景与挑战
背景概述
在农业机器人领域,精准采摘作业的智能化进程长期受制于高质量操控数据的匮乏。为此,浙江大学研究团队于2026年推出SROI v2手持式数据采集设备,并构建了名为sroiv2_strawberry_picking_lab_validation的数据集,作为其研究项目的独立验证集。该数据集包含100段人类演示的草莓采摘过程,由内置Intel RealSense D405立体相机的UMI式夹爪在实验室活体植株上采集,全程无机械臂参与,通过ORB-SLAM3与AprilTag技术离线恢复七自由度末端执行器动作与夹爪开度。此数据集旨在为模仿学习策略提供与训练集同步的评估基准,其采集日期与训练集不同,有效避免了时序泄漏,对推动农业机器人操作技能的泛化研究具有重要意义。
当前挑战
该数据集所应对的领域挑战源于农业采摘环境的高动态性与操作精细化需求。自然界中果实姿态多样、枝叶遮挡常见,要求机器人精准感知并柔顺执行抓取,而现有数据集多基于仿真或受控场景,难以反映真实作业复杂度。在构建层面,主要挑战包括:设备无机械臂支撑,需借助视觉SLAM鲁棒还原手持轨迹,且夹爪开度须依赖AprilTag精确估计;数据处理管线需统一标准化以匹配训练集格式,确保动作归一化范围一致;此外,所有采集流程需在视觉质检下完成,尽管当前150段记录全部合格,但其在极端遮挡、光照突变等场景的泛化能力仍待持续验证。
常用场景
经典使用场景
在农业机器人领域,数据驱动的模仿学习已成为提升采摘作业智能化水平的关键途径。该验证集专为草莓采摘任务设计,包含100段由SROI V2手持采集设备记录的真实人类演示,涵盖完整的7自由度末端执行器动作序列与同步的第一视角视觉观察。其典型应用场景为作为离线评估基准,用于测试和比较不同模仿学习算法(如扩散策略、动作分块变换器等)在相同任务上的泛化性能,特别关注模型对未见环境、光照条件及物候变化的鲁棒性。
解决学术问题
该数据集精准回应了农业机器人研究中长期存在的‘数据稀缺’与‘评价不一致’两大痛点。通过提供录制时间独立、且与训练集无重叠的验证数据,有效杜绝了时间泄露风险,使得学术社区能够以标准化流程量化模型在真实采摘场景下的动作预测精度与任务成功率。其意义在于为可复现的算法对比奠定了数据基础,推动了从实验室仿真向田间部署过渡的可靠性论证,促进了采摘策略在复杂非结构化环境中的适应性研究。
衍生相关工作
该数据集的发布催生了多项后续研究。基于其公开的轨迹与视觉数据,研究者已开展针对草莓嫩茎遮挡条件下的位姿估计研究,衍生了用于训练遮罩分割模型的专门数据子集。此外,其UMI式采集与离线SLAM处理方法启发了同类低成本数据采集工具的设计,相关论文如Hou等人发表于IFAC-PapersOnLine的开创性工作,已成为后续探讨‘手持式示教-机器人复现’范式的引用基准。数据集的成功也促进了多视图视觉-动作联合表示学习、以及跨季节泛化模仿学习等领域的新探索。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务