yuvalkirstain/laion-hd-subset

Name: yuvalkirstain/laion-hd-subset
Creator: yuvalkirstain
Published: 2022-11-30 11:07:56
License: 暂无描述

Hugging Face2022-11-30 更新2024-03-04 收录

下载链接：

https://hf-mirror.com/datasets/yuvalkirstain/laion-hd-subset

下载链接

链接失效反馈

官方服务：

资源简介：

--- dataset_info: features: - name: similarity dtype: float64 - name: hash dtype: int64 - name: punsafe dtype: float64 - name: pwatermark dtype: float64 - name: LANGUAGE dtype: string - name: caption dtype: string - name: url dtype: string - name: key dtype: string - name: status dtype: string - name: error_message dtype: 'null' - name: width dtype: int64 - name: height dtype: int64 - name: original_width dtype: int64 - name: original_height dtype: int64 - name: exif dtype: string - name: md5 dtype: string - name: path dtype: string - name: image dtype: image splits: - name: train num_bytes: 4395359106.2963705 num_examples: 13451 - name: test num_bytes: 496904910.53063023 num_examples: 1495 download_size: 4890190248 dataset_size: 4892264016.827001 --- # Dataset Card for "laion-hd-subset" [More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

数据集信息：特征列表： - 名称：similarity，数据类型：64位浮点型 - 名称：hash，数据类型：64位整型 - 名称：punsafe，数据类型：64位浮点型 - 名称：pwatermark，数据类型：64位浮点型 - 名称：LANGUAGE，数据类型：字符串 - 名称：caption，数据类型：字符串 - 名称：url，数据类型：字符串 - 名称：key，数据类型：字符串 - 名称：status，数据类型：字符串 - 名称：error_message，数据类型：空值（null） - 名称：width，数据类型：64位整型 - 名称：height，数据类型：64位整型 - 名称：original_width，数据类型：64位整型 - 名称：original_height，数据类型：64位整型 - 名称：exif，数据类型：字符串 - 名称：md5，数据类型：字符串 - 名称：path，数据类型：字符串 - 名称：image，数据类型：图像类型数据集划分： - 名称：train（训练集），占用字节数：4395359106.2963705，样本数量：13451 - 名称：test（测试集），占用字节数：496904910.53063023，样本数量：1495 下载总大小：4890190248 字节数据集总占用大小：4892264016.827001 字节 # 「laion-hd-subset」数据集卡片【需补充更多信息】(https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

提供机构：

yuvalkirstain

原始信息汇总

数据集概述

数据集名称

名称：laion-hd-subset

数据集特征

similarity: float64
hash: int64
psafe: float64
pwatermark: float64
LANGUAGE: string
caption: string
url: string
key: string
status: string
error_message: null
width: int64
height: int64
original_width: int64
original_height: int64
exif: string
md5: string
path: string
image: image

数据集分割

train:
- 示例数量: 13451
- 字节数: 4395359106.2963705
test:
- 示例数量: 1495
- 字节数: 496904910.53063023

数据集大小

下载大小: 4890190248
数据集大小: 4892264016.827001

搜集汇总

数据集介绍

构建方式

在视觉语言模型研究的前沿领域，高质量图文数据对模型性能的影响至关重要。yuvalkirstain/laion-hd-subset数据集源自大规模LAION数据集，经过精心筛选与重构，专注于高分辨率图像与文本配对。该数据集通过保留原始LAION数据中的关键字段，如图像相似度、哈希值、不安全内容概率、水印概率、语言标签、文本描述、URL、路径等，构建了一个结构化的高分辨率子集。数据划分为训练集（13451样本）和测试集（1495样本），确保了模型训练与评估的独立性。每项样本均包含图像数据及其元信息，为多模态学习提供了坚实基础。

特点

该数据集的核心特质在于其高分辨率图像与丰富元数据的结合。图像字段直接嵌入数据集中，便于高效加载与处理，避免了外部URL依赖带来的不稳定因素。元数据涵盖相似度、哈希、安全性、水印检测、语言标识等多维度信息，支持对数据质量进行精细控制。此外，原始宽度、高度与EXIF信息的保留，为图像预处理与规范化提供了便利。这种设计使得数据集不仅适用于通用图文匹配任务，还能在图像生成、检索、安全过滤等特定场景中发挥独特价值。

使用方法

使用该数据集时，推荐通过HuggingFace的datasets库加载，直接访问图像与文本字段进行模型训练。例如，可利用'caption'字段作为文本输入，'image'字段作为视觉输入，构建多模态对比学习或生成式模型。元数据中的'similarity'和'punsafe'可用于过滤低质量或不安全样本，增强训练稳定性。数据集的训练与测试划分明确，可直接用于评估模型泛化能力。此外，'width'和'height'字段便于动态调整图像尺寸，适配不同架构的输入要求。

背景与挑战

背景概述

在视觉语言模型蓬勃发展的浪潮中，大规模图文数据集如LAION-5B的涌现为跨模态学习提供了丰沛的燃料，然而其低分辨率与高噪声的特性却成为模型性能提升的瓶颈。为突破这一局限，研究人员于2022年左右构建了laion-hd-subset数据集，该数据集由yuvalkirstain等学者主导，从LAION-5B中精心筛选出高分辨率、高语义质量的子集，旨在解决现有数据集分辨率不足对生成式模型与细粒度理解任务的制约。通过引入相似度、不安全概率和水印概率等多维过滤指标，该数据集为后续高保真图像生成与多模态对齐研究奠定了坚实的数据基础，推动了领域内从“大而粗”向“精而优”的范式转变。

当前挑战

该数据集面临的核心挑战在于如何在保持数据规模的同时，精准平衡高分辨率与语义多样性之间的张力。一方面，从LAION-5B中提取高清晰度样本需克服原始数据中广泛存在的模糊、压缩伪影与低光照问题，这要求构建复杂的质量评估流水线，以过滤掉视觉退化严重但文本描述看似合理的噪声样本。另一方面，数据集构建过程中需应对版权归属与隐私合规的伦理挑战，由于图像URL来源庞杂，确保所有样本的合法使用与元数据完整性成为技术之外的重大难题。此外，跨语言描述的不一致性以及水印与不安全内容的残留，进一步加剧了数据清洗的复杂性，使得该子集在真实场景中的泛化能力仍面临考验。

常用场景

经典使用场景

在视觉与语言多模态研究领域，LAION-HD子集作为高质量图文对数据的代表性样本，常被用于预训练大规模多模态模型的性能基准测试。研究者利用其高分辨率图像与精准语义标注，评估CLIP、BLIP等架构在零样本分类、跨模态检索等经典任务上的泛化能力，尤其关注数据质量对模型表征学习的影响。

衍生相关工作

该数据集衍生了一系列关于数据筛选与增强的经典工作，例如基于CLIP相似度分数的自适应阈值过滤方法，以及利用水印检测分数剔除低质量样本的预处理流水线。这些研究不仅改进了LAION-5B等更大规模数据集的构建策略，还催生了如DataComp这类专注于数据质量基准测试的竞赛平台，深刻影响了多模态领域数据工程的标准范式。

数据集最近研究