RELX
收藏arXiv2020-10-19 更新2024-06-21 收录
下载链接:
https://github.com/boun-tabi/RELX
下载链接
链接失效反馈官方服务:
资源简介:
RELX数据集是由博阿齐奇大学创建的跨语言关系分类基准数据集,包含英语、法语、德语、西班牙语和土耳其语五种语言的502条平行测试句。该数据集通过选择KBP-37英语关系分类数据集的子集,并生成人工翻译和标注,确保了在五种语言中保持37种关系类别的一致性。RELX数据集的创建过程涉及语言专家的翻译和标注,以及专业翻译服务的质量评估,确保了数据集的高质量和实用性。该数据集主要用于评估和改进跨语言关系分类模型,特别是在资源较少的语言环境中,旨在解决多语言信息提取中的关键问题。
The RELX dataset is a cross-lingual relation classification benchmark dataset created by Boğaziçi University. It includes 502 parallel test sentences across five languages: English, French, German, Spanish, and Turkish. This dataset ensures the consistency of the 37 predefined relation categories across all five languages by selecting a subset from the KBP-37 English relation classification dataset and conducting manual translation and annotation. The development of the RELX dataset involved translation and annotation work by linguistic experts, as well as quality assessment from professional translation services, which guarantees the high quality and practical value of the dataset. This dataset is mainly used to evaluate and improve cross-lingual relation classification models, especially in low-resource language scenarios, aiming to address core challenges in multilingual information extraction.
提供机构:
博阿齐奇大学创建时间:
2020-10-19
搜集汇总
数据集介绍

构建方式
跨语言关系分类是信息抽取领域的关键任务,然而现有研究多集中于英语,低资源语言缺乏大规模标注数据。为填补这一空白,研究者从KBP-37英语关系分类数据集的测试集中,通过保持类别分布和统计特征,精心筛选出502个句子作为种子样本。这些句子被翻译为法语、德语、西班牙语和土耳其语,由双语母语者完成翻译并标注实体标记,随后经专业翻译公司进行质量评估,确保翻译的准确性与一致性。最终形成了包含五种语言平行句子的RELX基准数据集。
使用方法
使用RELX数据集时,研究者可将英语作为源语言训练跨语言关系分类模型,并在其他四种目标语言上评估零样本迁移性能。推荐采用基于多语言BERT(mBERT)的基线模型,通过添加实体标记和[CLS]表示进行关系分类。为提升性能,可应用论文提出的“匹配多语言空白”(MTMB)预训练方法:利用RELX-Distant构建跨语言句子对(正例共享相同实体和关系,负例共享单实体但关系不同),以二元分类任务预训练mBERT,再在KBP-37训练集上微调。代码和数据集均开源,支持研究者复现和扩展。
背景与挑战
背景概述
关系分类作为信息抽取领域的核心任务之一,旨在从非结构化文本中自动识别实体间的语义关系,为知识库构建与问答系统提供关键支撑。然而,现有研究高度集中于英语语料,依赖大量人工标注数据,难以推广至低资源语言。为突破这一瓶颈,博阿齐奇大学的Abdullatif Köksal与Arzucan Özgür于2020年提出了RELX数据集,该数据集基于KBP-37筛选出502条平行句子,经双语专家翻译与标注,覆盖英语、法语、德语、西班牙语和土耳其语五种语言,涵盖37种关系类别。作为首个公开的跨语言关系分类平行基准,RELX填补了多语言关系分类评测的空白,为跨语言迁移学习提供了标准化测试平台,推动了多语言自然语言处理领域的发展。
当前挑战
RELX数据集所面临的挑战主要体现在两大层面。在领域问题层面,跨语言关系分类需克服语言间句法结构与语义表达的显著差异,例如土耳其语的SOV语序与英语的SVO语序导致关系方向预测错误率激增,而德语、法语等语言在语序与介词使用上的差异也加剧了模型泛化难度。在构建过程中,数据集创建面临多重困难:首先,从KBP-37测试集中选取子集时需严格保持类别分布与统计特征的一致性,经过万次迭代筛选才确定最终样本;其次,人工翻译需确保实体标记的精准对齐,且需通过专业语言服务商的质量评估以剔除翻译错误;此外,远程监督构建的RELX-Distant数据集虽包含海量句子,但弱标签噪声与跨语言实体链接的歧义性进一步增加了模型训练的复杂性。
常用场景
经典使用场景
在跨语言关系分类的研究领域,RELX数据集犹如一座桥梁,连接了英语与法语、德语、西班牙语、土耳其语等五种语言的语义关系理解。该数据集最经典的用途在于作为零样本跨语言迁移学习的基准测试平台,研究者可基于英语标注数据训练模型,进而评估其在目标语言上的关系分类能力。例如,给定一个包含实体对的西班牙语句子,模型需准确预测其关系类别,而无需依赖该语言的任何标注样本。这一场景不仅验证了多语言预训练模型(如mBERT)的泛化性能,更推动了低资源语言信息抽取技术的发展。
解决学术问题
RELX数据集从根本上缓解了跨语言关系分类中标注数据匮乏的窘境。传统方法依赖昂贵的平行语料或机器翻译系统,而RELX通过提供502句人工翻译与标注的平行语料,首次为五种语言建立了统一的关系分类评估标准。它解决了两个核心学术问题:一是验证多语言预训练模型在关系分类任务上的跨语言迁移有效性,二是量化语言类型学差异(如语序、介词结构)对分类性能的影响。研究表明,对于与英语类型学相似的语言(如西班牙语),模型表现接近源语言水平,这为理解跨语言表示学习的边界提供了重要实证。
实际应用
在实际应用中,RELX数据集支撑着多语言知识库的自动构建与跨语言问答系统的核心模块。例如,企业可利用该数据集训练模型,从德语或土耳其语的新闻文本中抽取实体关系,自动化生成如(公司,总部所在地,城市)这样的结构化三元组,从而降低多语言信息管理的人力成本。此外,在低资源场景下,RELX-Distant子集通过远程监督从维基百科收集了数十万条弱标注语句,使得模型仅需少量英语标注即可在西班牙语等语言上达到可观性能,这为跨国舆情监测、多语种文献挖掘等工业应用提供了经济高效的解决方案。
数据集最近研究
最新研究方向
跨语言关系分类是自然语言处理领域的前沿热点,旨在突破单语种数据瓶颈,实现低资源语言的知识抽取。RELX数据集作为首个包含英语、法语、德语、西班牙语和土耳其语的平行关系分类基准,填补了多语言评估标准的空白。其配套的RELX-Distant大规模弱标注语料,结合新颖的Matching the Multilingual Blanks预训练方案,显著提升了多语言BERT在零样本场景下的关系识别能力。该研究不仅为知识库自动构建和跨语言问答系统提供了关键支撑,更揭示了语言类型学相似性对迁移性能的深刻影响,为全球化多语言信息处理开辟了新的路径。
相关研究论文
- 1The RELX Dataset and Matching the Multilingual Blanks for Cross-Lingual Relation Classification博阿齐奇大学 · 2020年
以上内容由遇见数据集搜集并总结生成



