varox34/demo
收藏Hugging Face2024-01-10 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/varox34/demo
下载链接
链接失效反馈官方服务:
资源简介:
UD_Spanish-AnCora数据集是从AnCora语料库的注释投影到Universal Dependencies树库中生成的,主要用于西班牙语的词性标注任务。数据集包含三个conllu文件,每个文件包含单词行、空白行和注释行。单词行包含10个字段,如ID、FORM、LEMMA等。数据集的语言为西班牙语(es-ES),并且没有包含个人或敏感信息。数据集的创建过程涉及将AnCora项目的注释转换为依赖关系,并由Universal Dependencies团队进行进一步处理。数据集的使用有助于西班牙语语言模型的发展。
UD_Spanish-AnCora数据集是从AnCora语料库的注释投影到Universal Dependencies树库中生成的,主要用于西班牙语的词性标注任务。数据集包含三个conllu文件,每个文件包含单词行、空白行和注释行。单词行包含10个字段,如ID、FORM、LEMMA等。数据集的语言为西班牙语(es-ES),并且没有包含个人或敏感信息。数据集的创建过程涉及将AnCora项目的注释转换为依赖关系,并由Universal Dependencies团队进行进一步处理。数据集的使用有助于西班牙语语言模型的发展。
提供机构:
varox34原始信息汇总
UD_Spanish-AnCora 数据集概述
数据集描述
数据集摘要
该数据集包含来自 AnCora 语料库 的注释,这些注释被投影到 Universal Dependencies 树库 上。我们使用该语料库的词性标注(POS)注释作为 EvalEs 西班牙语语言基准的一部分。
支持的任务和排行榜
- 词性标注(POS tagging)
语言
- 该数据集为西班牙语(
es-ES)。
数据集结构
数据实例
数据集包含三个 conllu 文件。注释以纯文本文件(UTF-8 编码,NFC 归一化,仅使用 LF 字符作为换行符,文件末尾包含 LF 字符)形式编码,包含三种类型的行:
- 单词行,包含一个单词/标记的 10 个字段,由单个制表符分隔。
- 空白行,标记句子边界。
- 注释行,以井号(#)开头。
数据字段
单词行包含以下字段:
- ID:单词索引,每个新句子从 1 开始;可能是多词标记的范围;可能是空节点的十进制数(十进制数可以小于 1,但必须大于 0)。
- FORM:单词形式或标点符号。
- LEMMA:词形或词干。
- UPOS:通用词性标签。
- XPOS:特定语言的词性标签;如果不可用则为下划线。
- FEATS:来自通用特征库存或定义的语言特定扩展的形态特征列表;如果不可用则为下划线。
- HEAD:当前单词的头,可以是 ID 值或零(0)。
- DEPREL:与 HEAD 的通用依赖关系(如果 HEAD = 0 则为根)或定义的语言特定子类型之一。
- DEPS:增强依赖图,以头-依赖关系对列表的形式。
- MISC:任何其他注释。
数据分割
es_ancora-ud-train.conllues_ancora-ud-dev.conllues_ancora-ud-test.conllu
数据集创建
源数据
原始注释在成分框架中完成,作为巴塞罗那大学 AnCora 项目 的一部分。它被 Universal Dependencies 团队 转换为依赖关系,并用于 CoNLL 2009 共享任务。CoNLL 2009 版本后来被转换为 HamleDT 和 Universal Dependencies。
注释
注释过程
有关 AnCora 注释的更多信息,请访问 AnCora 网站。
注释者
有关 AnCora 注释团队的更多信息,请访问 AnCora 网站。
个人和敏感信息
数据集中不包含个人或敏感信息。
使用数据的注意事项
数据集的社会影响
该数据集有助于西班牙语语言模型的发展。
附加信息
许可信息
该工作根据 <a rel="license" href="https://creativecommons.org/licenses/by/4.0/">CC Attribution 4.0 International License</a> 进行许可。
引用信息
使用该语料库时,必须引用以下论文:
- Taulé, M., M.A. Martí, M. Recasens (2008) Ancora: Multilevel Annotated Corpora for Catalan and Spanish, Proceedings of 6th International Conference on Language Resources and Evaluation. Marrakesh (Morocco).
引用 Universal Dependencies 项目时,请引用:
- Rueter, J. (Creator), Erina, O. (Contributor), Klementeva, J. (Contributor), Ryabov, I. (Contributor), Tyers, F. M. (Contributor), Zeman, D. (Contributor), Nivre, J. (Creator) (15 Nov 2020). Universal Dependencies version 2.7 Erzya JR. Universal Dependencies Consortium.
搜集汇总
数据集介绍

构建方式
该数据集源自巴塞罗那大学AnCora项目,原始标注基于成分句法框架,后由通用依存关系团队转换为依存句法格式,并应用于CoNLL 2009共享任务。最终版本经过HamleDT和通用依存关系的进一步转化,形成了当前以CONLL-U格式呈现的西班牙语词性标注数据集。数据包含训练集、开发集和测试集三个文件,每个文件中的注释以制表符分隔的10个字段呈现,涵盖词索引、词形、词元、通用词性标签、语言特定词性标签、形态特征、依存关系头节点、依存关系类型等信息。
特点
该数据集具有专家生成的高质量词性标注,采用通用依存关系框架,确保了跨语言的一致性和可比较性。数据为单语种西班牙语,包含丰富的形态特征和依存关系信息,适用于词性标注任务。其注释格式严格遵循通用依存关系规范,字段定义清晰,便于自然语言处理模型的训练与评估。此外,数据集以CC-BY-4.0许可发布,支持学术研究与应用开发。
使用方法
用户可通过加载CONLL-U格式的文件直接使用数据集,每条数据包含完整的词性标注和依存关系信息。建议将数据划分为训练、开发和测试集,用于训练和评估序列标注模型。具体使用时,需解析10个字段,提取词形、词性标签及依存关系等特征。该数据集适合作为西班牙语词性标注任务的基准,也可用于多语言依存分析模型的预训练或微调。
背景与挑战
背景概述
UD_Spanish-AnCora数据集诞生于自然语言处理领域对高质量、多层级标注语料的迫切需求,由巴塞罗那大学AnCora项目团队与Universal Dependencies团队联合构建,核心研究人员包括Daniel Zeman等。该数据集将源自AnCora语料库的短语结构标注,通过Universal Dependencies框架转化为依存句法标注,并整合了CoNLL 2009共享任务中的历史版本,最终形成面向西班牙语的词性标注基准资源。自2008年首次发布以来,该数据集凭借其精细的专家标注、严格的标准化流程,成为评估西班牙语语言模型性能的重要标杆,有力推动了依存句法分析、形态特征识别等任务在罗曼语族中的研究进展。
当前挑战
该数据集面临的核心挑战包括:其一,所解决的领域问题——词性标注与依存句法分析在西班牙语中需处理形态丰富的屈折变化、灵活语序及复杂依存关系,而原始AnCora语料库的短语结构标注向依存标注的转换过程中,可能引入结构歧义或丢失细粒度语义信息;其二,构建过程中的挑战——从多源数据(如新闻、文学文本)的筛选、归一化(UTF-8编码、NFC标准化)到多轮专家标注的一致性维护,以及CoNLL 2009、HamleDT、Universal Dependencies等多个版本间的格式兼容与历史标注的平滑迁移,均需克服跨机构协作、标注标准迭代与数据规模控制之间的平衡难题。
常用场景
经典使用场景
UD_Spanish-AnCora数据集作为西班牙语自然语言处理领域的基石性资源,其最经典的使用场景在于词性标注与依存句法分析任务的基准测试。该数据集整合了巴塞罗那大学AnCora项目的精细标注,并遵循通用依存关系框架,为研究者提供了高质量、标准化的语料库。在西班牙语语言模型评估中,它常被用作EvalEs基准的核心组成部分,用于衡量模型在形态句法层面的泛化能力与鲁棒性。通过其划分清晰的训练、验证与测试集,学者得以系统性地比较不同算法在真实语言数据上的表现,从而推动西班牙语计算语言学的发展。
解决学术问题
该数据集有效解决了西班牙语自然语言处理中缺乏大规模、一致性标注语料库的学术难题。在AnCora项目基础上,通过向通用依存关系格式的转换,它统一了不同标注体系间的异构性,使得跨语言模型比较与多任务学习成为可能。研究界借此得以深入探究西班牙语独特的形态丰富性、自由语序等现象对句法分析的影响。该数据集的意义在于为词性消歧、依存关系预测等核心任务提供了可复现的实验基准,其影响力体现在它被广泛用于验证神经网络架构在低资源语言上的迁移学习效果,进而促进了多语言自然语言理解的理论突破。
衍生相关工作
基于UD_Spanish-AnCora数据集,学术界衍生出一系列具有深远影响的经典工作。其中,CoNLL 2009共享任务将其作为核心评测数据,推动了依存句法分析与语义角色标注联合模型的创新。后续研究如HamleDT和Universal Dependencies项目,进一步将其扩展为跨语言分析框架的组成部分,促进了多语言句法归纳方法的演进。此外,该数据集启发了针对西班牙语的预训练语言模型(如BERT-based西班牙语变体)的微调策略,研究者通过在其上进行的词性标注实验,验证了上下文嵌入对形态句法特征的捕获能力,这些工作共同构建了西班牙语计算语言学的知识体系。
以上内容由遇见数据集搜集并总结生成



