alexandrainst/ddisco

DDisco数据集是一个用于训练模型以分类丹麦语语篇连贯性水平的数据集。数据集中的每个条目都标注了语篇连贯性标签（评分从1到3）：1：低连贯性（难以理解，无组织，包含不必要的细节，无法简洁地总结）；2：中等连贯性；3：高连贯性（易于理解，组织良好，仅包含支持主要观点的细节，可以简洁地总结）。语法和拼写错误被忽略（即它们不影响连贯性评分），并且文本的连贯性在其自身领域内考虑。

The DDisco dataset is a resource for training models to classify the discourse coherence level of Danish texts. Each entry in the dataset is annotated with a discourse coherence label, with scores ranging from 1 to 3: 1: Low coherence (difficult to understand, unstructured, contains unnecessary details, and cannot be concisely summarized); 2: Moderate coherence; 3: High coherence (easy to understand, well-organized, only includes details supporting the main viewpoints, and can be summarized concisely). Grammatical and spelling errors are ignored (i.e., they do not affect the coherence rating), and the coherence of the text is evaluated within its respective domain.

原始信息汇总

数据集概述

基本信息

• 数据集名称：DDisco
• 语言：丹麦语（da）
• 语言生成者：专家生成
• 许可证：AFL-3.0
• 多语言性：单语种
• 大小类别：1K<n<10K

数据集内容

• 任务类别：文本分类
• 任务描述：用于训练模型以分类丹麦语语篇的连贯性水平。
• 特征：
  • text：文本内容，数据类型为字符串。
  • domain：文本所属领域，数据类型为字符串。
  • rating：连贯性评分，数据类型为整数，范围从1到3。
    • 1: 低连贯性（难以理解，组织混乱，包含不必要细节，难以简洁概括）
    • 2: 中等连贯性
    • 3: 高连贯性（易于理解，组织良好，仅包含支持主要观点的细节，易于简洁概括）

数据集分割

• 训练集：
  • 样本数：801
  • 字节数：815571
• 测试集：
  • 样本数：201
  • 字节数：209297

数据集大小

• 下载大小：672202字节
• 数据集总大小：1024868字节

搜集汇总

数据集介绍

构建方式

DDisco数据集由专家精心构建，专注于丹麦语语篇连贯性分类任务。数据集源自专家生成的标注，每个样本包含一段文本、所属领域标签及一个1至3的连贯性评分，其中1表示低连贯性（难以理解、组织混乱），3表示高连贯性（清晰易懂、结构严谨）。构建时，专家排除了语法和拼写错误对评分的影响，确保连贯性评价聚焦于语篇本身的逻辑组织与主旨表达。数据集规模适中，包含801个训练样本和201个测试样本，覆盖多个领域，为丹麦语自然语言处理提供了宝贵的资源。

特点

该数据集的核心特点在于其针对丹麦语语篇连贯性的精细化标注体系。评分标准明确区分了低、中、高三个连贯性等级，且强调领域内一致性，即文本的连贯性评估基于其所属领域的特定规范。此外，数据集排除了表层语言错误干扰，使模型专注于学习深层的语篇结构特征。作为丹麦语领域首个公开的连贯性数据集，DDisco填补了低资源语言在语篇分析方面的空白，为跨语言比较研究提供了基准。

使用方法

DDisco数据集主要用于文本分类任务，旨在训练模型预测丹麦语语篇的连贯性等级。使用时，可将文本作为输入特征，领域标签作为辅助特征，以1至3的评分作为分类目标。数据集已划分为训练集和测试集，便于直接用于模型训练与评估。推荐采用预训练语言模型（如丹麦语BERT变体）进行微调，以捕捉语篇中的长距离依赖关系。此外，研究者可结合领域标签探索跨领域连贯性建模，或利用该数据集验证语篇连贯性理论在丹麦语中的适用性。

背景与挑战

背景概述

在自然语言处理领域，语篇连贯性评估是衡量文本质量的核心任务之一，尤其对于资源稀缺的语言而言，相关数据集的匮乏制约了研究进展。DDisco数据集由丹麦奥尔胡斯大学的研究人员于2022年创建，旨在为丹麦语语篇连贯性分类提供标准化基准。该数据集包含约1000个文本样本，覆盖多个领域，并由语言学专家依据1至3分的连贯性评分进行标注，分别对应低、中、高三个层级。其核心研究问题聚焦于如何系统性地量化丹麦语文本的连贯性，并推动跨语言语篇分析技术的发展。作为首个针对丹麦语的连贯性标注语料库，DDisco填补了北欧语言在该研究方向上的空白，为后续多语言模型在低资源场景下的泛化能力评估提供了关键支撑。

当前挑战

DDisco数据集所面临的挑战主要体现在两个方面。首先，在领域问题层面，语篇连贯性本身具有高度主观性和语境依赖性，不同领域（如学术论文与日常对话）的连贯性标准存在显著差异，使得模型难以学习统一且鲁棒的判别特征。其次，在构建过程中，专家标注的细致性要求与有限的数据规模形成了矛盾——尽管每一条样本都经过了严格的人工审核，但仅801条训练集和201条测试集的规模限制了深度学习模型的泛化能力，易导致过拟合。此外，丹麦语作为低资源语言，缺乏大规模的预训练语言模型支持，进一步增加了基于连贯性特征进行有效迁移学习的难度。

常用场景

经典使用场景

在语篇分析领域，连贯性作为衡量文本质量的核心维度，长期缺乏针对丹麦语的细粒度标注资源。DDisco数据集应运而生，它基于专家标注体系，将丹麦语文本的连贯程度划分为低、中、高三个等级，为研究者提供了首个系统性的丹麦语语篇连贯性分类基准。该数据集覆盖多种领域文本，且标注过程严格规避语法与拼写错误对连贯性评分的干扰，确保评估聚焦于文本内在的逻辑组织与信息结构。这一设计使其成为训练和评估丹麦语语篇连贯性分类模型的经典资源，广泛应用于自然语言处理中关于语篇建模、文本质量自动评估以及跨语言连贯性分析的比较研究。

解决学术问题

DDisco数据集有效填补了低资源语言——丹麦语在语篇连贯性研究中的标注数据空白。此前，尽管英语等语言已拥有成熟的连贯性评估数据集，但丹麦语的相关研究长期受限于缺乏高质量、标准化的标注语料，难以开展基于深度学习的自动化连贯性分类。该数据集通过提供跨领域、专家审核的连贯性评分，使得研究者能够系统性地探索丹麦语文本的组织规律，验证不同语篇理论在丹麦语上的适用性，并推动多语言语篇连贯性模型的构建。其意义在于为低资源语言的语篇处理研究树立了方法论标杆，促进了自然语言处理技术在语言多样性背景下的公平发展。

衍生相关工作

围绕DDisco数据集，学术界已经衍生出一系列重要的研究工作。该数据集的原始论文发表于LREC 2022，详细阐述了丹麦语语篇连贯性的标注框架与基线实验结果，为后续研究奠定了方法论基础。基于此，研究者开发了专门针对丹麦语的语篇连贯性预训练模型，通过微调多语言BERT等架构在DDisco上取得显著性能提升。此外，该数据集被用于跨语言语篇连贯性迁移学习的基准测试，验证了从高资源语言向丹麦语迁移知识的可行性。近期工作还探索了将DDisco与多任务学习结合，同步优化语法纠错与连贯性分类，推动了丹麦语自然语言处理技术的综合进步。