遇见数据集

DynamicWAM-data

收藏
Hugging Face2026-08-01 更新2026-08-02 收录
官方服务:

资源简介:

DynamicWAM (w/o motion) 训练数据集是一个为模仿学习任务设计的机器人操作数据集,源自 DOMINO 项目。该数据集不包含完整的 DynamicWAM 模型使用的显式数值绝对运动描述符标记,但保留了四个历史光流间隔(表示为 Flow RGB)。数据内容包括对齐的视频潜变量、动作/状态目标、历史光流 RGB、语言嵌入、帧索引和元数据,格式为自定义的 Safetensors 训练格式。数据集包含 35 个任务、26,019 个回合(其中 5,207 个干净回合,20,812 个随机回合),共有 3,455,662 个打包样本,分布在 346 个主数据分片中,总逻辑载荷大小约 2.00 TiB。动作/状态维度为 14,动作块大小为 16,未来潜变量序列为 8 帧,复合视频大小为 384×320。历史光流来自头部视角,四个间隔,使用 64×64 Farneback 光流和 P99 归一化。该数据集适用于机器人操作领域的模仿学习、视频潜变量建模、光流分析等任务。许可证为 Apache-2.0。

DynamicWAM (w/o motion) training dataset is a robotic manipulation dataset designed for imitation learning tasks, derived from the DOMINO project. It does not include the explicit numerical absolute motion descriptor tokens required by the full DynamicWAM model, but retains four historical optical flow intervals (denoted as Flow RGB). The dataset contents include aligned video latents, action/state targets, historical optical flow RGBs, language embeddings, frame indices and metadata, stored in the custom Safetensors training format. The dataset contains 35 tasks, 26,019 episodes (including 5,207 clean episodes and 20,812 randomized episodes), with a total of 3,455,662 packed samples distributed across 346 primary data shards, and a total logical storage size of approximately 2.00 TiB. The action/state dimension is 14, the action block size is 16, the future latent sequence spans 8 frames, and the composite video resolution is 384×320. The historical optical flow data is captured from the egocentric head viewpoint, with four intervals, utilizing 64×64 Farneback optical flow and P99 normalization. This dataset is applicable to tasks such as imitation learning, video latent modeling, and optical flow analysis in the robotic manipulation field. The license is Apache-2.0.

创建时间:
2026-07-31
原始信息汇总

数据集概述

DynamicWAM(无运动)训练数据 是一个用于机器人操作模仿学习的训练语料库,是完整 DynamicWAM 模型(不含显式数值绝对运动描述符 token)的打包版本。该数据集是上游 H-EmbodVis/DOMINO 的无损打包衍生品,而非原始 RGB 数据集的副本。

核心信息

项目 详情
任务数 35
回合数 26,019
干净回合 5,207
随机化回合 20,812
打包样本数 3,455,662
主数据分片 346
负载文件数 82,008
逻辑负载大小 2,199,796,269,773 字节(2.00 TiB)
文件指纹 bc20355aa094585499c2ade05d8bcfdb1f082aabc73259ebcded694e3301c425
许可证 Apache-2.0

数据内容与格式

  • 存储内容:对齐的视频潜变量、动作/状态目标、历史 Flow RGB、语言嵌入、帧索引和元数据。
  • 格式:自定义的基于 Safetensors 的训练格式(版本 2),并非 Hugging Face Dataset Viewer 可直接加载的标准格式。
  • 动作/状态维度:14;动作块大小:16。
  • 未来潜变量序列:8 帧;合成视频尺寸:384×320。
  • 历史流:头部视角,四个时间间隔的 64×64 Farneback 光流,采用 P99 归一化和固定原始步长。
  • 时间契约model_policy_index_aligned_v1;不包含物理模拟器时间戳。

仓库结构

dynamicwam_wo_motion/ ├── dataset.json ├── stats.json ├── action_stats.json ├── episodes.jsonl ├── samples.jsonl ├── shards/ │ ├── shard_.safetensors │ └── shard_.json └── lang/ ├── lang.json └── shards/ ├── bucket_000/ ... bucket_040/ DATASET_RELEASE.json FILE_LAYOUT.json PAYLOAD_MANIFEST.jsonl SHA256SUMS tools/materialize_training_layout.py

语言分片被分桶存储以满足 Hugging Face 每目录文件数限制;仓库提供了物化工具(tools/materialize_training_layout.py)来创建训练加载器所需的扁平兼容视图,且不复制负载字节。

命名区分

  • “w/o motion” 表示不含完整 DynamicWAM 模型引入的显式数值绝对运动描述符 token,但仍包含四个历史光流间隔(Flow RGB)。
  • 对于完整 DynamicWAM 使用的精确模拟器时间语料库,请使用 KhalilGao/DOMINO_absolute_motion_v2

下载与使用

使用 hf download 命令下载数据集,然后运行物化工具创建扁平视图。该工具支持相对符号链接模式(默认)和硬链接模式(--mode hardlink),两种模式均不复制底层负载数据。

完整性与来源

  • 打包的动作统计信息的 SHA-256 为 730a91e41b6a23c70cec49cd222835373ba9364680da5753f4408c5534319b04,与发布的 DynamicWAM(w/o motion)检查点完全匹配。
  • PAYLOAD_MANIFEST.jsonl 映射了所有逻辑路径到分桶 Hub 路径,并记录了字节大小和源修改时间。
  • SHA256SUMS 覆盖 dynamicwam_wo_motion/ 下完整的分桶负载。

配套模型检查点

匹配的模型检查点位于 KhalilGao/DynamicWAM/checkpoints/dynamicwam_wo_motion/model.pt

许可证说明

打包的衍生数据以 Apache-2.0 发布,与上游 DOMINO 数据/代码发布一致。语言和视频模型衍生特征仍受适用的上游模型条款约束;本数据集不包含外部模型权重。

搜集汇总
数据集介绍
DynamicWAM-data 数据集图片
构建方式
DynamicWAM-data数据集是DynamicWAM(无运动)模型的训练语料库,源自H-EmbodVis/DOMINO数据集的经无损打包处理后的衍生版本。其构建方式别具匠心,摒弃了原始RGB数据,转而存储对齐的视频潜变量、动作/状态目标、历史光流RGB、语言嵌入、帧索引及元数据。为满足Hugging Face的目录文件数量限制,数据集在Hub上对语言分片进行了分桶处理,同时提供了物化工具,以创建与训练加载器兼容的扁平视图,且不复制任何有效负载字节,确保了数据的高效利用与完整性。
特点
该数据集规模宏大,包含35个任务、26,019个片段(其中5,207个干净片段,20,812个随机化片段),打包样本数达3,455,662个,逻辑有效负载大小约2.00 TiB,且无零字节文件。其数据格式为自定义的Safetensors支持的训练格式,动作/状态维度为14,动作块大小为16,未来潜变量序列为8帧,复合视频尺寸为384×320。历史光流采用头部视图的四个间隔、64×64的Farneback光流,并经P99归一化处理。数据集提供了完整的数据指纹、清单文件和校验和,确保了数据的可追溯性与完整性。
使用方法
使用该数据集时,需通过Hugging Face CLI进行下载,并运行物化工具生成扁平兼容视图。工具会创建相对符号链接(或硬链接,视模式而定),且不会复制底层数据。该数据集需配合DynamicWAM数据加载器使用,而非Hugging Face Dataset Viewer。配套的模型检查点位于KhalilGao/DynamicWAM/checkpoints/dynamicwam_wo_motion/model.pt。数据集采用Apache-2.0许可证,但上游模型派生的特征仍受相应条款约束。
背景与挑战
背景概述
DynamicWAM-data数据集由KhalilGao等研究人员于近期构建,旨在支持机器人操作领域的模仿学习研究。该数据集基于DOMINO数据集进行无损打包衍生,提供了包含视频潜在表示、动作/状态目标、历史光流RGB、语言嵌入等丰富信息的训练语料,共计35个任务、26,019个回合、3,455,662个打包样本,逻辑有效载荷达2.00 TiB。该数据集的核心研究问题在于为DynamicWAM(无运动)模型提供高效、对齐的训练数据,以促进视觉-语言-动作多模态模型在机器人操作任务中的学习与泛化。作为DynamicWAM模型的重要数据基础,DynamicWAM-data在机器人操作、模仿学习及多模态决策领域具有潜在影响力,为研究者提供了标准化的训练数据格式与工具链。
当前挑战
DynamicWAM-data数据集面临的挑战涵盖领域问题与构建过程两方面。领域问题方面,机器人操作模仿学习要求数据具备高维度感知(视觉、语言、动作)与时间连续性,而现有数据集常因模态异质性、时序对齐复杂及物理模拟器时间戳缺失(该数据集即无精确模拟器时间)而制约模型泛化能力。构建过程方面,数据集需处理大规模数据(2 TiB)的存储与分发,Hugging Face每目录文件数限制促使采用分桶布局,并通过符号链接工具实现兼容性视图,避免重复存储;同时需确保数据完整性(指纹、SHA-256校验)、动作统计与检查点精确匹配,以及多模态特征(如光流)的标准化处理,这些均对数据管道的鲁棒性与可复现性提出了严苛要求。
常用场景
经典使用场景
DynamicWAM-data数据集是面向机器人操作领域的大规模模仿学习训练语料,专为动态世界模型(DynamicWAM)的无运动描述符变体设计。其核心内容涵盖26,019个任务片段,其中包含5,207个干净片段与20,812个随机化片段,总计超过345万个打包样本。该数据集以Safetensors格式存储对齐的视频潜在表示、动作/状态目标、历史光流RGB、语言嵌入及帧索引,为训练机器人操作策略提供了结构化的多模态输入。其典型使用场景包括基于视频预测的模仿学习、多模态融合的机器人控制,以及视觉-语言-动作联合建模,尤其适用于需要精确时序对齐和跨模态特征提取的研究。该格式支持高效的数据加载与无损打包,确保在大规模训练中保持数据完整性与可复现性,是推动机器人操作智能体从感知到动作映射的重要基础设施。
衍生相关工作
DynamicWAM-data数据集源自H-EmbodVis/DOMINO项目,作为其无损打包衍生版本,催生了多项后续研究。最直接的是完整版DynamicWAM模型,其引入了绝对运动描述符令牌,并在KhalilGao/DOMINO_absolute_motion_v2数据集中使用精确模拟时间戳,进一步提升了动作表征的准确性。该数据集的发布推动了关于视频潜在表示、光流在模仿学习中的应用以及多模态对齐的学术探讨,衍生工作包括改进的世界模型架构、基于注意力机制的动作预测网络,以及考虑数据增强的策略学习框架。此外,其Safetensors打包格式启发了高效训练数据集的设计,促进了大规模机器人数据集的标准化与可复用性。这些工作共同推进了机器人操作领域在数据驱动下的持续创新,为构建通用机器人大脑提供了重要实验基准。
数据集最近研究
最新研究方向
DynamicWAM数据集聚焦于机器人操作领域的模仿学习前沿,依托其大规模、多模态的压缩训练语料,推动视觉-语言-动作联合建模的发展。当前研究热点集中于利用视频潜在表示与光流历史信息增强策略的时序泛化能力,并探索无显式运动令牌条件下的高效表征学习。该数据集包含逾2万条随机化场景及26,000余个片段,为构建鲁棒的机器人操控策略提供了丰富资源,其Apache-2.0许可促进了开放科学社区的合作与基准测试的标准化,对具身智能与自动化生产具有深远影响。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务