Chars/Danbooru2023-Meta
收藏Hugging Face2024-01-20 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/Chars/Danbooru2023-Meta
下载链接
链接失效反馈官方服务:
资源简介:
Meta table on MySQL
```sql
mysql> DESCRIBE danbooru_posts;
+------------------------+-------------+------+-----+---------+----------------+
| Field | Type | Null | Key | Default | Extra |
+------------------------+-------------+------+-----+---------+----------------+
| id | bigint | NO | PRI | NULL | auto_increment |
| created_at | datetime | YES | | NULL | |
| uploader_id | int | YES | | NULL | |
| score | int | YES | | NULL | |
| source | text | YES | | NULL | |
| md5 | varchar(32) | YES | | NULL | |
| last_comment_bumped_at | datetime | YES | | NULL | |
| rating | varchar(1) | YES | | NULL | |
| image_width | int | YES | | NULL | |
| image_height | int | YES | | NULL | |
| tag_string | text | YES | | NULL | |
| fav_count | int | YES | | NULL | |
| file_ext | varchar(8) | YES | | NULL | |
| last_noted_at | datetime | YES | | NULL | |
| parent_id | int | YES | | NULL | |
| has_children | tinyint(1) | YES | | NULL | |
| approver_id | int | YES | | NULL | |
| tag_count_general | int | YES | | NULL | |
| tag_count_artist | int | YES | | NULL | |
| tag_count_character | int | YES | | NULL | |
| tag_count_copyright | int | YES | | NULL | |
| file_size | int | YES | | NULL | |
| up_score | int | YES | | NULL | |
| down_score | int | YES | | NULL | |
| is_pending | tinyint(1) | YES | | NULL | |
| is_flagged | tinyint(1) | YES | | NULL | |
| is_deleted | tinyint(1) | YES | | NULL | |
| tag_count | int | YES | | NULL | |
| updated_at | datetime | YES | | NULL | |
| is_banned | tinyint(1) | YES | | NULL | |
| pixiv_id | int | YES | | NULL | |
| last_commented_at | datetime | YES | | NULL | |
| has_active_children | tinyint(1) | YES | | NULL | |
| bit_flags | int | YES | | NULL | |
| tag_count_meta | int | YES | | NULL | |
| has_large | tinyint(1) | YES | | NULL | |
| has_visible_children | tinyint(1) | YES | | NULL | |
| media_asset | json | YES | | NULL | |
| tag_string_general | text | YES | | NULL | |
| tag_string_character | text | YES | | NULL | |
| tag_string_copyright | text | YES | | NULL | |
| tag_string_artist | text | YES | | NULL | |
| tag_string_meta | text | YES | | NULL | |
| file_url | text | YES | | NULL | |
| large_file_url | text | YES | | NULL | |
| preview_file_url | text | YES | | NULL | |
+------------------------+-------------+------+-----+---------+----------------+
```
you can resotre with `mysql -u <your user> -p ACG < danbooru.sql` and create an `ACG` database if not exists
MySQL 数据库中的元数据表:`danbooru_posts` 表结构详情
通过 MySQL 命令行执行 `DESCRIBE danbooru_posts;` 可获取该表的完整结构,具体如下:
sql
mysql> DESCRIBE danbooru_posts;
+------------------------+-------------+------+-----+---------+----------------+
| 字段名 | 数据类型 | 是否允许为空 | 键约束 | 默认值 | 额外信息 |
+------------------------+-------------+------+-----+---------+----------------+
| id | bigint | 否 | 主键 | NULL | 自增主键 |
| created_at | datetime | 是 | | NULL | |
| uploader_id | int | 是 | | NULL | |
| score | int | 是 | | NULL | |
| source | text | 是 | | NULL | |
| md5 | varchar(32) | 是 | | NULL | |
| last_comment_bumped_at | datetime | 是 | | NULL | |
| rating | varchar(1) | 是 | | NULL | |
| image_width | int | 是 | | NULL | |
| image_height | int | 是 | | NULL | |
| tag_string | text | 是 | | NULL | |
| fav_count | int | 是 | | NULL | |
| file_ext | varchar(8) | 是 | | NULL | |
| last_noted_at | datetime | 是 | | NULL | |
| parent_id | int | 是 | | NULL | |
| has_children | tinyint(1) | 是 | | NULL | |
| approver_id | int | 是 | | NULL | |
| tag_count_general | int | 是 | | NULL | |
| tag_count_artist | int | 是 | | NULL | |
| tag_count_character | int | 是 | | NULL | |
| tag_count_copyright | int | 是 | | NULL | |
| file_size | int | 是 | | NULL | |
| up_score | int | 是 | | NULL | |
| down_score | int | 是 | | NULL | |
| is_pending | tinyint(1) | 是 | | NULL | |
| is_flagged | tinyint(1) | 是 | | NULL | |
| is_deleted | tinyint(1) | 是 | | NULL | |
| tag_count | int | 是 | | NULL | |
| updated_at | datetime | 是 | | NULL | |
| is_banned | tinyint(1) | 是 | | NULL | |
| pixiv_id | int | 是 | | NULL | |
| last_commented_at | datetime | 是 | | NULL | |
| has_active_children | tinyint(1) | 是 | | NULL | |
| bit_flags | int | 是 | | NULL | |
| tag_count_meta | int | 是 | | NULL | |
| has_large | tinyint(1) | 是 | | NULL | |
| has_visible_children | tinyint(1) | 是 | | NULL | |
| media_asset | JSON | 是 | | NULL | |
| tag_string_general | text | 是 | | NULL | |
| tag_string_character | text | 是 | | NULL | |
| tag_string_copyright | text | 是 | | NULL | |
| tag_string_artist | text | 是 | | NULL | |
| tag_string_meta | text | 是 | | NULL | |
| file_url | text | 是 | | NULL | |
| large_file_url | text | 是 | | NULL | |
| preview_file_url | text | 是 | | NULL | |
+------------------------+-------------+------+-----+---------+----------------+
你可通过执行命令 `mysql -u <你的用户名> -p ACG < danbooru.sql` 恢复该数据集,若尚未创建 ACG 数据库,请先执行创建操作。
提供机构:
Chars原始信息汇总
数据集概述
数据表结构
数据集包含一个名为 danbooru_posts 的表,其字段和类型如下:
| 字段名 | 类型 | 是否可为空 | 键类型 | 默认值 | 额外信息 |
|---|---|---|---|---|---|
| id | bigint | NO | PRI | NULL | auto_increment |
| created_at | datetime | YES | NULL | ||
| uploader_id | int | YES | NULL | ||
| score | int | YES | NULL | ||
| source | text | YES | NULL | ||
| md5 | varchar(32) | YES | NULL | ||
| last_comment_bumped_at | datetime | YES | NULL | ||
| rating | varchar(1) | YES | NULL | ||
| image_width | int | YES | NULL | ||
| image_height | int | YES | NULL | ||
| tag_string | text | YES | NULL | ||
| fav_count | int | YES | NULL | ||
| file_ext | varchar(8) | YES | NULL | ||
| last_noted_at | datetime | YES | NULL | ||
| parent_id | int | YES | NULL | ||
| has_children | tinyint(1) | YES | NULL | ||
| approver_id | int | YES | NULL | ||
| tag_count_general | int | YES | NULL | ||
| tag_count_artist | int | YES | NULL | ||
| tag_count_character | int | YES | NULL | ||
| tag_count_copyright | int | YES | NULL | ||
| file_size | int | YES | NULL | ||
| up_score | int | YES | NULL | ||
| down_score | int | YES | NULL | ||
| is_pending | tinyint(1) | YES | NULL | ||
| is_flagged | tinyint(1) | YES | NULL | ||
| is_deleted | tinyint(1) | YES | NULL | ||
| tag_count | int | YES | NULL | ||
| updated_at | datetime | YES | NULL | ||
| is_banned | tinyint(1) | YES | NULL | ||
| pixiv_id | int | YES | NULL | ||
| last_commented_at | datetime | YES | NULL | ||
| has_active_children | tinyint(1) | YES | NULL | ||
| bit_flags | int | YES | NULL | ||
| tag_count_meta | int | YES | NULL | ||
| has_large | tinyint(1) | YES | NULL | ||
| has_visible_children | tinyint(1) | YES | NULL | ||
| media_asset | json | YES | NULL | ||
| tag_string_general | text | YES | NULL | ||
| tag_string_character | text | YES | NULL | ||
| tag_string_copyright | text | YES | NULL | ||
| tag_string_artist | text | YES | NULL | ||
| tag_string_meta | text | YES | NULL | ||
| file_url | text | YES | NULL | ||
| large_file_url | text | YES | NULL | ||
| preview_file_url | text | YES | NULL |
数据恢复命令
可以使用以下命令恢复数据: sql mysql -u <your user> -p ACG < danbooru.sql
并创建一个名为 ACG 的数据库(如果不存在)。
搜集汇总
数据集介绍

构建方式
Danbooru2023-Meta数据集源自Danbooru社区,以MySQL数据库表的形式存储了海量ACG图像的元数据。该表通过SQL语句`DESCRIBE danbooru_posts`定义,包含47个字段,覆盖了图像的核心属性,如唯一标识符`id`、上传时间`created_at`、评分`score`、标签字符串`tag_string`以及文件相关信息`file_url`等。构建过程依托Danbooru平台的用户上传与社区协作标注机制,将每张图像的元数据结构化存储,形成一个可查询、可分析的关系型数据表。用户可通过提供的`mysql`命令将SQL文件导入数据库,从而在本地环境中复现这一元数据集合。
特点
该数据集的核心特点在于其全面性与结构化程度。元数据表不仅记录了图像的基本信息如尺寸、格式和文件大小,还通过`tag_string`系列字段(如`tag_string_general`、`tag_string_character`等)将标签按角色、版权、艺术家等类别进行精细划分,极大地方便了多维度检索。此外,表中包含审核状态(如`is_pending`、`is_deleted`)、评分统计(`up_score`、`down_score`)及层级关系(`parent_id`、`has_children`)等字段,为分析社区行为与图像关联提供了丰富的数据维度。这些特性使得Danbooru2023-Meta成为研究图像标注、社区生态及推荐系统的理想资源。
使用方法
使用Danbooru2023-Meta数据集时,首先需通过`mysql`命令将提供的SQL文件恢复至本地MySQL数据库,并预先创建名为`ACG`的数据库。恢复后,用户可直接利用SQL查询语言对`danbooru_posts`表进行灵活操作,例如按标签筛选图像、统计评分分布或分析上传趋势。该数据集聚焦于元数据而非图像本身,因此适用于需要大规模标签信息的研究场景,如训练图像分类模型、开发标签推荐算法或进行社区行为分析。用户也可结合其他工具(如Python的pandas库)连接数据库,进一步挖掘数据中的模式与关联。
背景与挑战
背景概述
Danbooru2023-Meta数据集源自Danbooru社区,该社区自2006年起由匿名爱好者创建,专注于二次元图像标注与分享,后由Danbooru团队持续维护。该数据集的核心研究问题在于为大规模ACG(动画、漫画、游戏)图像提供结构化元数据,涵盖上传时间、评分、标签体系、文件属性及媒体资产信息等。作为当前ACG领域最具影响力的标注数据集之一,Danbooru2023-Meta为多标签分类、图像检索、风格迁移及生成模型等研究提供了丰富的训练与评估基础,推动了计算机视觉在亚文化图像理解中的发展。
当前挑战
该数据集面临的挑战首先在于领域问题的复杂性:ACG图像包含高度多样化的艺术风格、角色、版权作品及抽象标签,传统的图像分类方法难以精准捕捉其细粒度语义,多标签不平衡与长尾分布问题尤为突出。在构建过程中,数据清洗与标签一致性维护是重大难点,由于Danbooru社区用户标注存在主观差异与噪声,需设计复杂的审核机制确保元数据质量;同时,海量图像与元数据的存储、索引及高效查询对数据库架构提出了高性能要求,如MySQL表结构中的多字段索引优化与JSON字段解析效率均需持续改进。
常用场景
经典使用场景
Danbooru2023-Meta数据集作为Danbooru社区图像元数据的结构化快照,在动漫插画与二次元图像理解领域扮演着基石角色。研究者常利用其包含的标签体系(如角色、艺术家、版权作品等分类标签)与图像属性(如尺寸、评分、文件哈希值)来构建多标签分类模型,或训练图像检索系统,以精准定位特定画风、人物或作品来源的图像。该数据集丰富的元数据字段使得细粒度视觉语义分析成为可能,成为动漫图像内容理解任务的标准基准。
实际应用
该数据集的实际应用广泛渗透于数字内容管理与创意产业。例如,基于其元数据训练的模型可集成至二次元图像搜索引擎,实现按角色、画师或作品来源的精准筛选;也能用于自动标签推荐系统,帮助用户在海量插画库中高效归档与检索。此外,在社交平台与游戏资产库中,它辅助实现内容审核与版权溯源,通过评分与标记字段识别不当内容或追踪特定艺术家的创作轨迹,显著提升了数字内容生态的治理效率。
衍生相关工作
基于Danbooru2023-Meta衍生了多项经典工作,如Waifu Diffusion等文本到图像生成模型,利用其标签-图像对应关系指导扩散模型的语义对齐;Danbooru2020等早期版本催生了DeepDanbooru等自动标签标注工具,实现了从图像到标签的高效映射。此外,研究者基于该数据集的评分与收藏数据构建了图像质量评估模型,或结合元数据中的时间戳分析动漫画风演变趋势,这些工作共同推动了动漫AI从简单分类向生成、检索与趋势预测等复杂任务的跨越。
以上内容由遇见数据集搜集并总结生成



