community-datasets/cdsc

Polish CDSCorpus数据集包含10K波兰语句对，这些句对由人工标注了语义相关性和蕴含关系。数据集用于评估波兰语的组合分布语义模型。数据集在ACL 2017会议上展示，并提供了相关论文的链接。数据集的结构包括两个配置：cdsc-e和cdsc-r，分别用于蕴含判断和相关度评分。数据集的许可证为CC BY-NC-SA 4.0，仅用于研究目的。

The Polish CDSCorpus dataset contains 10K Polish sentence pairs that are manually annotated with semantic relevance and entailment relations. This dataset is designed for evaluating compositional distributional semantic models for the Polish language. It was presented at the ACL 2017 conference, with a link to the associated research paper provided. The dataset includes two configurations: cdsc-e and cdsc-r, which are respectively used for entailment judgment and relevance scoring. The dataset is licensed under CC BY-NC-SA 4.0 and is for research purposes only.

原始信息汇总

数据集概述

数据集描述

• 名称: Polish CDSCorpus
• 语言: 波兰语
• 许可: CC BY-NC-SA 4.0
• 多语言性: 单语
• 大小类别: 10K<n<100K
• 源数据集: 原始数据
• 任务类别: 其他
• 标签: 句子蕴含和相关性

数据集结构

配置

• cdsc-e

  • 特征:
    • pair_ID: int32
    • sentence_A: string
    • sentence_B: string
    • entailment_judgment:
      • 类别标签:
        • 0: NEUTRAL
        • 1: CONTRADICTION
        • 2: ENTAILMENT
  • 分割:
    • train: 8000 个样本, 1381894 字节
    • test: 1000 个样本, 179392 字节
    • validation: 1000 个样本, 174654 字节
  • 下载大小: 744169 字节
  • 数据集大小: 1735940 字节

• cdsc-r

  • 特征:
    • pair_ID: int32
    • sentence_A: string
    • sentence_B: string
    • relatedness_score: float32
  • 分割:
    • train: 8000 个样本, 1349894 字节
    • test: 1000 个样本, 175392 字节
    • validation: 1000 个样本, 170654 字节
  • 下载大小: 747648 字节
  • 数据集大小: 1695940 字节

数据集创建

• 注释创建者: 专家生成
• 语言创建者: 其他

数据集使用注意事项

• 其他已知限制: 数据集仅供研究目的使用。请检查数据集许可以获取更多信息。

搜集汇总

数据集介绍

构建方式

Polish CDSCorpus的构建过程严谨而系统，旨在为波兰语的组合分布语义模型提供评估基准。研究团队借鉴了SICK语料库的设计理念，但针对波兰语作为屈折语且语序相对自由的特点进行了创新性调整。数据来源为波兰语自然文本，通过专家人工标注的方式，对约10K个句子对进行语义相关性和蕴含关系的双重标注。标注过程中，团队设计了特定的语言转换规则，以克服缺乏外部资源的问题，确保数据集的质量与可比性。最终，数据集被划分为训练集（8000对）、验证集（1000对）和测试集（1000对），每个子集均包含完整的标注信息。

特点

该数据集的核心特点在于其双任务标注结构，涵盖了语义蕴含（cdsc-e）与语义相关性（cdsc-r）两个维度。在cdsc-e配置中，每个句子对被标注为中性、矛盾或蕴含三类标签，支持经典的文本蕴含任务；而在cdsc-r配置中，则提供了浮点数形式的相关性评分，用于细粒度的语义相似度评估。数据集包含10K个波兰语句子对，由领域专家精心标注，确保了标注的准确性与一致性。此外，数据集的许可证为CC BY-NC-SA 4.0，适用于非商业研究用途，并已在ACL 2017上发表，具有较高的学术认可度。

使用方法

用户可通过HuggingFace Datasets库便捷加载该数据集。使用`load_dataset('community-datasets/cdsc', 'cdsc-e')`可获取蕴含任务数据，而`load_dataset('community-datasets/cdsc', 'cdsc-r')`则用于相关性任务。每个配置均包含训练、验证和测试三个子集，可直接用于模型训练与评估。数据字段包括句子对ID、原始句子（sentence_A和sentence_B）以及对应的标注结果。对于蕴含任务，标注为分类标签（0: NEUTRAL, 1: CONTRADICTION, 2: ENTAILMENT）；对于相关性任务，则为浮点数评分。该数据集特别适用于波兰语自然语言理解模型的基准测试，如文本蕴含识别和语义相似度计算等任务。

背景与挑战

背景概述

波兰语CDSCorpus（Polish CDSCorpus）是由Alina Wróblewska和Katarzyna Krasnowska-Kieraś于2017年在ACL会议上提出的一个面向波兰语的语义评估数据集。该数据集由波兰科学院计算机科学研究所（IPI PAN）的研究团队创建，旨在为波兰语的组合分布语义模型提供标准化的验证基准。核心研究问题在于如何构建一个与英文SICK语料库相媲美的资源，以评估模型在语义相关性和文本蕴含判断上的表现。数据集包含10,000个波兰语句子对，每对均经过专家标注，涵盖语义相关度评分和蕴含关系（中立、矛盾、蕴含）两类任务。这一资源的发布填补了非英语语言在语义评估领域的空白，推动了波兰语自然语言处理的发展，并成为KLEJ基准测试的重要组成部分。

当前挑战

CDSCorpus所解决的领域问题在于为波兰语这种屈折语且语序相对自由的语言提供可靠的语义评估基准，这与英文等分析语存在显著差异，对模型的语言理解能力提出了更高要求。在构建过程中，研究团队面临两大挑战：一是缺乏必要的外部资源（如英文WordNet的波兰语等价物），需自行设计语言特定的转换规则；二是波兰语的形态复杂性使得句子对的语义等价关系难以精确界定，需依赖专家标注以确保一致性。此外，数据集采用CC BY-NC-SA 4.0许可协议，仅限研究用途，这在一定程度上限制了其在商业场景中的应用，同时其规模（10K句对）对于深度学习模型而言可能偏小，存在过拟合风险。

常用场景

经典使用场景

Polish CDSCorpus作为波兰语句子级语义评估的基准资源，最经典的使用场景在于验证组合分布语义模型在屈折语中的泛化能力。该数据集包含10,000对人工标注的波兰语句子，分别从语义相关性和蕴含关系两个维度进行标注，为评估模型在形态丰富且语序相对自由的语言上的表现提供了标准化测试平台。研究者可基于其蕴含判断子集（cdsc-e）开展三项分类任务，或基于相关性评分子集（cdsc-r）进行连续值回归分析，从而系统性地衡量语义表示的质量。

实际应用

在实际应用中，Polish CDSCorpus被集成至KLEJ基准测试平台，成为波兰语自然语言处理系统标准化评估的关键组件。工业界可借助该数据集检验机器翻译、文本蕴含识别、语义相似度计算等商业系统的鲁棒性，尤其适用于面向波兰语用户的搜索引擎、智能客服和内容审核系统。此外，其在教育科技领域可用于评估自动作文评分系统的语义连贯性判断能力，或在法律科技中验证合同条款矛盾检测模型的准确性。

衍生相关工作

该数据集衍生了一系列波兰语语义分析的经典工作，包括基于其构建的KLEJ多任务基准测试，以及后续针对斯拉夫语言的跨语言迁移学习研究。研究者以CDSCorpus为评估标准，提出了面向波兰语的BERT变体模型（如HerBERT、Polish RoBERTa），并验证了预训练语言模型在蕴含推理任务上的表现。此外，该数据集还催生了针对屈折语言形态句法特征的专门化语义表示方法，推动了组合范畴语法在波兰语中的应用探索。