Chinese Paragraph-level Topic Structure corpus (CPTS)

CPTS是由深圳大数据研究院构建的中文段落级主题结构数据集，包含约14393篇文档。该数据集通过两阶段人机协同标注方法构建，确保高质量。数据集内容涵盖新闻文档，每篇文档根据主题被划分为多个段落，每个段落围绕特定主题。创建过程中，首先使用自动提取方法初步确定主题边界和内容，然后由人工验证者进行验证，以确保主题结构的正确性。CPTS主要应用于主题分割和概要生成等自然语言处理任务，帮助快速理解和定位长文档中的信息。

CPTS is a Chinese paragraph-level topic structure dataset constructed by Shenzhen Institute of Big Data, containing approximately 14,393 documents. It is built using a two-stage human-machine collaborative annotation method to ensure high data quality. The dataset covers news documents, where each document is divided into multiple paragraphs based on its core topics, with each paragraph centering on a specific theme. During the construction process, automatic extraction methods are first used to preliminarily determine topic boundaries and corresponding content, followed by verification from human annotators to ensure the correctness of the topic structure. CPTS is mainly applied to natural language processing tasks such as topic segmentation and summary generation, helping users quickly understand and locate information within long documents.

搜集汇总

数据集介绍

构建方式

在中文篇章级主题结构研究领域，由于缺乏大规模、高质量的段落级语料库，相关研究与应用长期受限。为填补这一空白，我们提出了CPTS数据集的构建方法。首先，设计了一种三层级段落级主题结构表示法，将文档标题视为超级主题，子标题作为子主题，段落作为基本层级主题，并以句子或从句形式而非关键词来表征主题内容，以充分捕捉段落级语义信息。随后，采用两阶段人机协作标注策略：第一阶段利用启发式自动提取方法，从新华社新闻文档中快速获取候选主题结构（包括标题、子标题和段落边界），确保形式上的正确性；第二阶段由人工验证者从语义角度对自动提取的结构进行内部错误（如重复子标题）和外部错误（如编码问题）的双重校验，通过讨论解决分歧，最终构建了包含14393篇文档的高质量语料库，标注一致性达94.79%，Kappa值为0.849。

特点

CPTS数据集具有显著的结构化与语义化特点。在结构层面，它创新性地将段落边界、主题边界、子标题和标题全部纳入主题结构，形成三层级层次化表示，不仅刻画了段落与子标题间的隶属关系，还揭示了子标题与标题间的层级关联，超越了传统仅标注边界或关键词的浅层模式。在语义层面，子标题采用完整的从句或句子而非短语，平均词数达12.33，能更丰富地表达段落级主题信息，克服了关键词表征信息量不足的局限。此外，数据集规模居中文段落级主题结构语料之首，是现有最大同类语料的近五倍，且通过人机协同确保了语义正确性，兼具大规模与高质量的双重优势。

使用方法

CPTS数据集可广泛应用于主题分割与大纲生成两大基础任务，并延伸至下游篇章解析等应用。在主题分割任务中，可将文档段落序列作为输入，采用序列标注模型（如BERT+Bi-LSTM）或指针网络（如Segbot）预测段落间是否为主题边界，评估指标包括Pk、WindowDiff及F1值。在大纲生成任务中，将同一主题下的连续段落作为输入，利用生成式模型（如BART、T5）生成对应的子标题，采用ROUGE、BLEU及BertScore进行自动评估，并辅以人工排序评价。数据集按段落长度分布随机划分为90%训练集与10%测试集，支持有监督学习。此外，其主题结构还可作为远监督信号，提升中文篇章解析的性能，为检索增强生成（RAG）等大模型应用提供高效的内容定位能力。

背景与挑战

背景概述

在自然语言处理领域，篇章级主题结构解析是理解文本深层语义与组织逻辑的关键环节，其通过主题分割和大纲生成揭示文档的层次化话题脉络。相较于句子级主题结构，段落级主题结构能从更高维度把握文档全局语境，对文本摘要、篇章解析及信息检索等下游任务具有显著支撑作用。然而，中文段落级主题结构研究长期面临资源匮乏的困境，现有语料库多聚焦于英文领域或句子级别，且存在规模小、标注粒度粗、语义信息不充分等局限。为填补这一空白，由香港中文大学（深圳）、中国科学技术大学及苏州大学联合研究团队于2023年构建了中文段落级主题结构语料库（CPTS），该语料库基于三层级层次化主题表示框架，涵盖标题、子标题及段落边界，采用人机协同的两阶段标注策略，最终产出包含约14,393篇高质量新闻文档的数据集，为中文篇章分析提供了坚实的基准资源。

当前挑战

CPTS语料库的构建与研究所面临的挑战主要体现在两个层面。在领域问题层面，段落级主题结构解析的核心挑战在于如何实现更丰富的话题表示：由于基本单元（段落）长度远超句子，传统关键词或短语难以承载充分的语义信息，导致以往研究偏重分割任务而忽视大纲生成；同时，子标题的自动生成需兼顾语义准确性与风格适配性，现有模型在ROUGE和BLEU指标上表现尚不理想，表明该任务具有较高复杂度。在构建过程层面，如何在保证大规模的同时维持高质量是另一重大挑战：纯人工标注耗时耗力且易受主观性影响，而纯自动提取虽能扩大规模却难以确保语义正确性。为此，CPTS采用先启发式自动提取后人工校验的两阶段策略，但校验过程仍需处理内部错误（如重复子标题）与外部错误（如编码异常），36%的文档需修订，凸显了平衡效率与精度的难度。

常用场景

经典使用场景

在中文自然语言处理领域，段落级主题结构分析是理解文档高层语义的关键环节。CPTS数据集专为段落级主题分割与大纲生成任务而设计，其经典使用场景在于将一篇由多个段落组成的文档自动划分为若干个语义连贯的主题区块，并为每个区块生成对应的子标题。这一过程不仅揭示了文档内在的层次化主题脉络，还为后续的文本摘要、篇章解析和信息检索等下游任务提供了结构化的先验知识。通过CPTS，研究者能够系统性地训练和评估模型在中文新闻文本上的主题边界检测与标题生成能力，从而推动段落级话语分析技术的发展。

解决学术问题

CPTS数据集的核心贡献在于填补了中文段落级主题结构资源匮乏的空白，解决了长期困扰学术界的两个关键问题：一是缺乏大规模、高质量的中文段落级主题结构语料库，导致相关研究难以开展；二是现有方法多聚焦于句子级主题结构，忽视了段落间更高层次的语义关联。通过提出三层层次化主题表示模型（超主题、子主题、基础主题）并采用人机协同标注策略，CPTS为研究者提供了可靠的基准数据，使得主题分割和大纲生成任务从无监督或弱监督方法迈向有监督学习成为可能。该数据集的意义在于为中文篇章理解领域奠定了数据基础，促进了话语结构理论与计算模型的深度融合。

衍生相关工作

CPTS数据集的发布催生了一系列后续研究工作。在方法层面，研究者基于CPTS构建了多种强基线模型，包括基于指针网络的Segbot和PN-XLNet、基于局部分类的TM-BERT以及基于序列标注的BERT+Bi-LSTM和层次化BERT，这些模型为后续的主题分割任务提供了性能参考。在任务拓展方面，CPTS被用于验证主题结构对篇章解析的辅助作用，实验表明利用CPTS提供的真实主题边界作为远程监督信号，能够将中文段落级篇章解析的性能从50.23提升至55.33。此外，CPTS还启发了联合学习框架的探索，尝试将主题分割与大纲生成统一到生成式模型中，推动了多任务学习在话语分析领域的应用。