gelbooru-darask2

gelbooru-darask2是一个专为文本到图像生成模型微调（特别是NetaYume Lumina/Anima框架）设计的大规模动漫与插画图像-字幕配对数据集。它包含约300万条样本，以分片形式组织，每分片1000行。内容警告：数据集包含不适合所有受众的NSFW/成人图像。每条记录包括gelbooru帖子ID、WebP格式的图像字节流（最大边长为2048像素，质量参数为85）、图像格式/宽度/高度元数据、原始booru标签（以逗号分隔）、由Gemma-31B视觉语言模型生成的英文自然语言丰富描述，以及遵循NetaYume框架组合的提示文本（包含系统提示包装、角色/版权/艺术家/通用排序规则，以及图像内文本的逐字记录）。所有字幕均为英文，日文仅作为图像内文本出现。数据集采用vLLM框架与Gemma-31B模型（FP8精度，张量并行度为2）在租赁GPU集群上生成，可能存在少量重复ID，建议在训练前按id字段去重。该数据集是gelbooru-darask数据集的兄弟版本，共享相同的模式谱系，但提供了更新的字幕内容。

gelbooru-darask2 is a large-scale anime and illustration image-caption paired dataset designed for fine-tuning text-to-image generation models, specifically for the NetaYume Lumina/Anima framework. It contains approximately 3 million samples, organized in shards of 1000 rows each. Content warning: the dataset includes NSFW/adult images that may not be suitable for all audiences. Each record includes the gelbooru post ID (id), image byte stream in WebP format (with a maximum side length of 2048 pixels and quality parameter of 85), image format/width/height metadata (format, width, height), original booru tags (tags, comma-separated), an English natural language rich description generated by the Gemma-31B vision-language model (caption_rich), and a prompt text following the NetaYume framework composition (caption_netayume, including system prompt wrapping, character/copyright/artist/general ordering rules, and verbatim transcription of in-image text). All captions are in English, with Japanese appearing only as in-image text. The dataset was generated using the vLLM framework with the Gemma-31B model (FP8 precision, tensor parallelism of 2) on a rented GPU cluster. Note that due to multi-worker push contention, there may be a small number of duplicate IDs, and deduplication by the id field before training is recommended. This dataset is a sibling version of the gelbooru-darask dataset, sharing the same schema lineage but providing updated caption content.

原始信息汇总

数据集概述：gelbooru-darask2

• 名称：gelbooru-darask2
• 类型：动漫/插画图像-文本描述数据集，适用于文本到图像模型的微调
• 规模：约300万行（每分片1000行），属于1M-10M规模类别

内容与用途

• 用于文本到图像微调，数据来源为gelbooru网站
• 含成人内容警告：包含NSFW/成人图像

数据模式

列名	描述
id	gelbooru帖子ID
image	WebP格式图片字节（最长边2048像素，质量85）
format, width, height	图像元数据
tags	原始booru标签（逗号分隔）
caption_rich	英文自然语言详细描述（由Gemma-31B VLM生成）
caption_netayume	NetaYume组合提示（系统提示包装，按角色/版权/艺术家/通用排序，包含图像内原文）

关键说明

• 语言：描述仅限英文，日语仅以图像内原文形式出现
• 生成方式：使用vLLM + Gemma-31B（FP8, TP=2）在租用GPU集群上生成
• 数据去重：行内可能存在少量重复ID（多工作者推送竞争），训练前需按id去重
• 关联数据集：兄弟数据集为gelbooru-darask（早期带描述版本，模式相同）

配置与文件

• 配置名称：default
• 数据文件：训练集分片存储在 data/*.parquet 路径下

搜集汇总

数据集介绍

构建方式

该数据集源自知名动漫插画社区Gelbooru，旨在为文本到图像生成模型的微调提供高质量的图像-描述配对数据。构建过程中，研究者从平台抓取约300万条帖子，将图像统一编码为WebP格式（最长边2048像素，质量因子85），并保留原始标签、格式、尺寸等元信息。描述文本采用双轨生成策略：一是利用Gemma-31B视觉语言模型生成富含自然语言细节的英文描述（caption_rich）；二是采用NetaYume系统提示模板，按角色、版权、画师、通用标签及图中原文顺序组合成结构化提示（caption_netayume）。所有描述均为英文，日语仅以图中原文形式保留。

特点

该数据集的核心优势在于其大规模与结构化双描述设计。约300万条记录覆盖了动漫插画领域的广泛风格与内容，每条数据同时提供自然语言描述与生成式提示两种文本形式，分别适用于不同微调策略。图像经过统一压缩处理，在保证视觉质量的前提下降低存储与传输成本。数据集明确标注包含成人内容，适用于相关研究场景。此外，分片存储（每片1000条）与Parquet格式便于分布式加载与处理。

使用方法

数据集以Parquet格式存储，包含train单一切分，可通过HuggingFace Datasets库直接加载。加载时需注意设置`trust_remote_code=True`以启用图像解码功能。由于多工作者推送可能导致少量重复ID，建议在训练前依据`id`列进行去重操作。用户可根据需求选择使用`caption_rich`进行自然语言条件生成，或使用`caption_netayume`进行提示词工程导向的生成。兄弟数据集gelbooru-darask提供了更早期的标注版本，二者可联合使用以扩展数据规模。

背景与挑战

背景概述

在文本到图像生成模型飞速发展的背景下，高质量图文配对数据集的稀缺性成为制约模型精细调控能力的关键瓶颈，尤其对于动漫与插画等视觉风格高度特化的领域。gelbooru-darask2数据集由研究者darask0主导构建，发布于2025年初，旨在为动漫插画类文本到图像模型的微调提供大规模、语义丰富的训练资源。该数据集源自gelbooru社区约300万条帖子，通过Gemma-31B视觉语言模型为每张图像生成了两种类型的英文描述：一种为自然语言丰富描述，另一种为结构化提示。其核心研究问题在于如何利用大规模弱标注数据与强大VLM的蒸馏能力，提升动漫领域生成模型对特定角色、画师及风格指令的遵循能力。该成果为后续动漫文生图模型（如NetaYume Lumina / Anima系列）提供了关键数据支撑，在垂直社区内具有显著影响力。

当前挑战

该数据集所解决的领域核心挑战在于动漫插画图像标注的高度主观性与语义稀疏性：原始标签仅为社区标记的关键词序列，缺乏自然语言描述所需的句法结构与上下文信息，导致传统文生图模型难以精准理解用户意图。构建过程中，研究者面临三大挑战：其一，海量数据处理——3百万条记录需通过vLLM框架与Gemma-31B模型（FP8精度、张量并行度为2）在租用GPU集群上进行推理，计算成本与耗时极为显著；其二，数据质量问题——多工作线程并行推送可能导致重复ID，需在训练前依据ID列进行去重；其三，内容合规风险——数据集包含大量NSFW成人影像，在发布与传播中需严格设置内容警告并以‘not-for-all-audiences’标签进行约束。此外，跨批次描述风格的一致性也构成潜在挑战，因VLM生成的描述需平衡自然度与结构化需求。

常用场景

经典使用场景

在文本到图像生成模型微调的研究中，高质量、大规模且带有详细文字描述的图像-文本配对数据集是模型性能提升的关键基石。gelbooru-darask2数据集以其约300万条动漫与插画图像-文本配对记录，为这一领域提供了极具价值的训练资源。其最经典的使用场景在于利用丰富的英文自然语言描述（rich caption）和结构化的NetaYume提示词，对潜在扩散模型（如Stable Diffusion系列）进行精细调整，从而提升模型在二次元艺术风格下的指令遵循能力与生成图像的语义一致性。

解决学术问题

该数据集系统地解决了动漫领域文本-图像对齐质量不高、标注信息稀疏且缺乏统一格式的学术困境。通过引入Gemma-31B视觉语言模型生成的高质量自然语言描述，以及经过精心编排的NetaYume提示词（按角色、版权、艺术家、通用标签有序组织），研究人员得以深入探索细粒度语义控制与风格迁移机制。这一资源不仅为多模态表示学习提供了均衡的样本分布，还推动了基于扩散模型的零样本泛化能力研究，显著提升了学术社区对复杂动漫构图与隐性文化元素理解的建模水平。

衍生相关工作

该数据集的发布催生了一系列衍生研究工作。如同源数据集gelbooru-darask构成了早期标注方案的基线，而后继研究借鉴其模式构建了针对不同艺术领域的微调数据管道。学术界围绕该数据集开展了提示词优化策略的比较研究、多语言描述生成效果的评估，以及基于共享标签体系的可泛化视觉特征提取工作。此外，其在NetaYume项目中的应用直接推动了面向动漫生成模型的专用提示词工程框架的成熟，为后续通用多模态模型在垂直领域的自适应奠定了方法论基础。