DistillAlign_1p3b_25K
收藏资源简介:
DistillAlign-1p3b-25K 是一个用于视频扩散蒸馏的数据集,包含 25,000 个样本。每个样本由 Wan2.1-T2V-1.3B 教师模型生成的干净 VAE 潜变量及其对应的英文文本提示组成。潜变量形状为 [21, 16, 60, 104],其中 21 表示时间帧数(约 81 个视频帧),16 为 VAE 潜变量通道数,60 和 104 分别对应潜变量的高度和宽度,解码后视频分辨率为 480×832 像素。数据以 PyTorch 张量格式存储,每个 .pt 文件包含一个字典,键为文本提示字符串,值为形状为 [21, 16, 60, 104] 的 float32 张量。该数据集适用于视频扩散模型的蒸馏训练(作为回归或分布匹配目标)以及潜空间研究。此外,还提供了由 Wan2.1-T2V-14B 教师模型生成的对应版本数据集 DistillAlign_14B_25K。
DistillAlign-1p3b-25K is a dataset for video diffusion distillation, containing 25,000 samples. Each sample consists of clean VAE latents generated by the Wan2.1-T2V-1.3B teacher model and corresponding English text prompts. The latent shape is [21, 16, 60, 104], where 21 represents temporal frames (approximately 81 video frames), 16 is the VAE latent channel dimension, 60 and 104 are the latent height and width, respectively, corresponding to a decoded video resolution of 480×832 pixels. Data is stored in PyTorch tensor format; each .pt file contains a dictionary with text prompt strings as keys and float32 tensors of shape [21, 16, 60, 104] as values. This dataset is suitable for distillation training (as regression or distribution matching objectives) of video diffusion models and for latent space research. Additionally, a corresponding version generated by the Wan2.1-T2V-14B teacher model, DistillAlign_14B_25K, is also provided.
数据集概述
DistillAlign-1p3b-25K 是一个为视频扩散模型蒸馏任务预计算的干净VAE潜变量数据集,由 Wan2.1-T2V-1.3B 教师模型生成,每个样本均包含对应的文本提示词。
基本信息
| 属性 | 内容 |
|---|---|
| 样本数量 | 25,000 |
| 教师模型 | Wan2.1-T2V-1.3B |
| 提示词来源 | VidProM 文本提示词(英文) |
| VAE | Wan2.1 VAE(8倍空间压缩,~4倍时间压缩) |
| 潜变量形状 | [21, 16, 60, 104] |
| 数据类型 | float32 |
| 文件格式 | 每样本一个 .pt 文件,内容为字典 {提示词字符串: 潜变量张量} |
| 许可证 | Apache-2.0 |
潜变量形状说明
潜在张量维度 [21, 16, 60, 104] 的含义如下:
| 维度 | 大小 | 含义 |
|---|---|---|
| 0 | 21 | 时间维度潜变量帧数(对应约81帧视频) |
| 1 | 16 | VAE潜变量通道数 |
| 2 | 60 | 潜变量高度(对应480像素) |
| 3 | 104 | 潜变量宽度(对应832像素) |
对应视频分辨率为 480 × 832,约 81帧。
数据组织与加载
- 文件按
part0/00000.pt、part0/00001.pt等路径组织。 - 每个
.pt文件通过torch.save保存为单条目字典,键为提示词字符串,值为形状[21, 16, 60, 104]的干净视频潜变量。 - 解码潜变量回像素时,需使用 Wan2.1 VAE 解码器(如解码器需
[B, T, C, H, W]输入,需添加批次维度)。
关联资源
- 由 Wan2.1-T2V-14B 教师模型生成的对应数据集可在 DistillAlign_14B_25K 获取。
- 该数据集相关工作详情见项目主页、论文及代码仓库(可通过数据集页面访问)。
设计用途
该数据集专为视频扩散蒸馏任务设计(作为回归或分布匹配目标),同时适用于潜变量空间研究。




