VARAG/ArxivCaptionDataset

ArxivCap数据集是一个多模态数据集，包含了来自arXiv学术论文的图像和文本描述。数据集的具体内容包括640万张图像和390万条文本描述，总计1.93亿个单词，涵盖了57万篇学术论文的标题、摘要和图像描述。数据集的构建过程参考了相关论文，并且提供了详细的数据加载方法和数据结构描述。

原始信息汇总

数据集概述

数据集名称

• 名称: ArxivCap
• 许可证: CC BY-SA 4.0

数据集属性

• 任务类别: image-to-text
• 语言: en
• 大小类别: 1M<n<10M
• 标签: arxiv, multi-modal

数据集内容

• 概述: 包含6.4百万张图片和3.9百万个标题，总计193百万字，来自57万篇学术论文，每篇论文附有摘要和标题。
• 数据实例: 每个实例包含论文的源文件路径、arXiv ID、标题、摘要、元数据（包括来自Kaggle和Semantic Scholar的信息）以及图片和标题对。

数据集结构

• 数据加载: 可通过Python的datasets库加载，或通过Linux命令行快速下载。
• 数据字段:
  • src: 字符串，源文件路径。
  • arxiv_id: 字符串，arXiv论文ID。
  • title: 字符串，论文标题。
  • abstract: 字符串，论文摘要。
  • meta: 字典，包含来自Kaggle和Semantic Scholar的元数据。
  • caption_images: 列表，包含图片和标题对，每个对包含子标题、图片文件名、图片对象和图片OCR结果。

附加信息

• 许可证信息: 数据集根据CC BY-SA 4.0许可证发布。
• 引用信息: 引用时请使用提供的文献信息。