ds4sd/DocLayNet-v1.2
收藏Hugging Face2025-02-10 更新2025-02-15 收录
下载链接:
https://hf-mirror.com/datasets/ds4sd/DocLayNet-v1.2
下载链接
链接失效反馈官方服务:
资源简介:
DocLayNet v1.2是一个用于文档布局分割的大型人工标注数据集,包含80863个独立页面的11个不同类别标签的边界框标注。这些页面涵盖了金融报告、科学文章、法律法规、政府招标、手册和专利等六个文档类别。数据集以其人工标注、布局多样性、详细的标签集、冗余标注和预定义的数据集分割而著称。
DocLayNet v1.2 is a large human-annotated dataset for document layout segmentation, containing bounding box annotations for 11 distinct class labels on 80863 unique pages across six document categories including financial reports, scientific articles, laws and regulations, government tenders, manuals, and patents. The dataset is notable for its human annotation, layout variability, detailed label set, redundant annotations, and predefined dataset splits.
提供机构:
ds4sd搜集汇总
数据集介绍

构建方式
在文档智能分析领域,布局分割是信息提取的关键前提。DocLayNet-v1.2作为原始DocLayNet的扩展版本,创新性地将PDF文件以二进制形式嵌入数据集中。该数据集由IBM Research的Deep Search团队精心策划,通过众包方式招募经过严格训练的标注专家,对来自金融、科学、专利、招标、法律文本和手册六大类别的80863个独特页面进行逐页人工标注。标注过程遵循公开的标注指南,以边界框形式提供11种不同类别标签的布局分割真值,并包含冗余标注部分以评估标注不确定性。
特点
DocLayNet-v1.2的核心优势在于其卓越的标注质量与丰富的布局多样性。相较于PubLayNet或DocBank等同类数据集,它通过人工标注确保了布局分割的黄金标准。数据集定义了11个细粒度类别标签,涵盖标题、表格、图片、页眉页脚等关键文档元素,能够精确区分复杂布局中的细微差异。此外,其预定义的训练、验证和测试集划分保证了类别标签的比例代表性,并避免了独特布局风格在集合间的泄露,为模型训练提供了可靠的基准。
使用方法
该数据集以HuggingFace Datasets格式提供,包含image、bboxes、category_id、segmentation、area、pdf_cells、metadata和pdf等字段。用户可通过加载train、validation和test三个预定义分片直接使用。每个样本的image字段提供页面PIL图像,bboxes和category_id分别对应布局边界框及其类别ID。pdf_cells字段进一步提供了边界框内的PDF单元格内容,便于进行细粒度的文档内容分析。metadata字段则包含了文档类别、页面尺寸等元信息,支持对特定文档类型进行针对性研究。
背景与挑战
背景概述
DocLayNet v1.2是由IBM Research的Deep Search团队于2022年创建的一个大规模、高质量的人工标注文档布局分割数据集。该数据集由Christoph Auer、Michele Dolfi、Ahmed Nassar和Peter Staar等研究人员主导开发,旨在解决文档理解领域中布局分割任务缺乏精准标注数据的核心问题。DocLayNet包含了80863个独特页面,覆盖金融报告、科学文章、法律法规、政府招标、手册和专利六大文档类别,并定义了11种细粒度的布局标签,如图片、表格、标题等。其独特之处在于完全依赖经过严格培训的专家进行人工标注,确保了标注的黄金标准质量,同时引入了冗余标注机制以量化标注不确定性。该数据集在KDD 2022上发表后,迅速成为文档布局分析领域的重要基准,推动了从金融文档解析到科学文献数字化等众多应用的研究进展。
当前挑战
DocLayNet v1.2所面临的挑战首先体现在领域问题的复杂性上:文档布局分割需要模型同时处理多样化的版面结构,如跨页表格、嵌套标题和混合图文区域,而现有模型在应对这些高可变性布局时仍存在精度瓶颈,尤其是在小目标如脚注和公式的识别上。其次,数据集构建过程中遇到了显著困难:人工标注需要标注专家遵循详尽的指导手册,对每个页面进行像素级边界框和分割多边形标注,耗时且成本高昂;同时,来自不同文档类别的页面风格差异巨大,如专利文档的密集文本与手册的大量图片,要求标注标准在不同类别间保持一致性。此外,冗余标注的引入虽然提供了不确定性估计,但也增加了数据整理和一致性校验的复杂度,对标注流程的质量控制提出了更高要求。
常用场景
经典使用场景
DocLayNet作为一款由人工精标注的文档布局分割数据集,其核心应用场景在于训练和评估基于深度学习的文档版面分析模型。该数据集覆盖了金融报告、科学论文、专利、招标书、法律文本及操作手册六大类文档,共计80,863页,标注了11种细粒度布局类别(如标题、段落、表格、图片、页眉页脚等)。研究者通常利用其固定的训练、验证与测试划分,进行版面元素检测与分割任务的基准测试,尤其适用于需要高精度边界框回归与多类别分类的复杂版面理解场景。
实际应用
在实际工业界,DocLayNet驱动的版面分析模型被广泛部署于企业级文档数字化流水线中。例如,金融机构利用其识别年报中的表格与段落结构,实现自动化数据抽取;法律事务所借助模型解析合同与判例书的页眉、页脚及条款区域,加速信息检索;出版商则应用于学术论文的版面重构,便于跨平台排版与知识库构建。此外,该数据集还支撑了智能文档处理系统中的关键环节,如光学字符识别(OCR)前的区域定位、文档分类与归档,以及无障碍阅读中的结构提取,显著降低了人工校对成本。
衍生相关工作
DocLayNet衍生了一系列具有影响力的学术工作,推动了文档智能领域的边界拓展。例如,基于该数据集的LayoutLMv3与DocFormer等预训练模型,通过融合文本、图像与布局信息,在文档理解任务上取得了突破性进展;同时,研究者提出了如DocSegTr等改进型分割网络,专门针对DocLayNet中复杂的版面元素(如跨页表格与多级标题)进行优化。此外,该数据集还催生了面向文档布局生成的对抗网络研究,以及结合弱监督学习的半自动标注框架,进一步降低了后续数据集构建的成本与门槛。
以上内容由遇见数据集搜集并总结生成



