five

MINION

收藏
arXiv2022-11-18 更新2024-08-06 收录
下载链接:
http://arxiv.org/abs/2211.05958v2
下载链接
链接失效反馈
官方服务:
资源简介:
MINION数据集是由俄勒冈大学计算机与信息科学系创建的大规模多语言事件检测数据集,专注于识别和分类文本中的事件提及触发词。该数据集涵盖8种语言,包括英语、西班牙语、葡萄牙语、波兰语、土耳其语、印地语、日语和韩语,其中5种语言未被现有多语言数据集支持。数据集通过使用维基百科文章进行标注,继承了ACE 2005的标注模式和指南以保证数据质量。MINION数据集旨在解决多语言环境下事件检测的挑战,支持跨语言知识转移和模型泛化研究。

The MINION Dataset is a large-scale multilingual event detection dataset created by the Department of Computer and Information Science at the University of Oregon. It focuses on identifying and classifying event mention triggers in text. This dataset covers 8 languages, including English, Spanish, Portuguese, Polish, Turkish, Hindi, Japanese, and Korean, among which 5 languages are not supported by existing multilingual datasets. The dataset is annotated using Wikipedia articles, and inherits the annotation schema and guidelines from ACE 2005 to ensure data quality. The MINION Dataset aims to address the challenges of event detection in multilingual environments, and supports research on cross-lingual knowledge transfer and model generalization.
创建时间:
2022-11-11
搜集汇总
数据集介绍
main_image_url
构建方式
MINION数据集基于维基百科多语言文章构建,覆盖英语、西班牙语、葡萄牙语、波兰语、土耳其语、印地语、日语和韩语八种语言。数据采集自各语言维基百科中与事件相关的六个子类别(经济、政治、技术、犯罪、自然、军事),利用WikiExtractor提取文本,并通过Trankit进行句子和词元分割。为提升标注效率,每篇文章被切分为五个句子的片段,由母语标注者依据ACE 2005的标注规范进行独立标注。标注前,候选标注者需通过英语事件检测测试,并合作翻译指南以形成统一理解。最终,20%的片段用于共标注以计算标注者间一致性,其余独立标注,冲突部分经协商解决,确保数据质量。
特点
MINION数据集规模宏大,包含超过50,000个标注事件触发词,远超现有多语言事件检测数据集。其核心特点在于语言覆盖的多样性与新颖性,涵盖五种此前未被主流数据集支持的语言(葡萄牙语、波兰语、土耳其语、印地语、日语)。数据集继承并精简了ACE 2005的事件本体,保留16个事件子类型,避免语义混淆。标注者间一致性高(Krippendorff's alpha在0.789至0.834之间),表明标注质量可靠。此外,数据集揭示了不同语言在事件触发词密度、类型分布和多样性上的显著差异,例如波兰语中事件密度是英语的两倍,而韩语、土耳其语和日语展现出最高的触发词多样性,为跨语言事件检测研究提供了丰富的挑战。
使用方法
MINION数据集适用于多语言事件检测模型的训练与评估。使用方法上,任务被建模为序列标注问题,采用BIO标注方案预测每个词的标签。数据集按80/10/10比例划分为训练、开发和测试集。研究者可利用多语言预训练语言模型(如mBERT、XLMR)结合前馈网络、条件随机场或双向长短期记忆网络构建模型。实验表明,多语言预训练模型(如XLMR)在单语设置中表现优于单语模型,而跨语言迁移学习则揭示了语言结构差异(如主-宾-动语序)对性能的影响。此外,数据集支持零样本跨语言迁移实验,并可作为跨数据集评估的基准,例如与ACE 2005对比以探究领域差异。
背景与挑战
背景概述
事件检测(Event Detection, ED)作为信息抽取领域的关键任务,旨在从文本中识别并分类事件触发词,为知识库构建、问答系统及文本摘要等下游应用提供支撑。然而,现有ED研究长期集中于英语语料,非英语语言的事件检测探索严重不足,且已有少量多语言数据集存在语言覆盖有限、规模较小、标注体系不一致及公开性差等局限。为突破上述瓶颈,俄勒冈大学与Adobe Research的研究团队于2022年提出了MINION数据集,该数据集基于维基百科文章,为英语、西班牙语、葡萄牙语、波兰语、土耳其语、印地语、日语和韩语等8种类型学差异显著的语言提供了一致的事件标注,其中5种语言此前未被任何多语言ED数据集覆盖。MINION包含超过5万个标注事件触发词,规模远超ACE 2005与TempEval-2等现有资源,其公开可获取的特性为多语言ED研究提供了坚实的数据基础,显著推动了该领域向更广泛的语言群体拓展。
当前挑战
MINION数据集所揭示的挑战可从领域问题与构建过程两个维度审视。在领域问题层面,现有最先进的ED模型在多语言场景下表现远未达到理想水平,最佳平均F1值仅为72.31%,且非英语语言的性能普遍显著低于英语,凸显了跨语言事件检测的艰巨性。零样本跨语言迁移实验中,模型性能平均下降15.2%,尤其在日语、土耳其语、韩语等主-宾-动语序语言中损失最为严重,表明语言结构差异与事件触发词分布多样性(如英语中78%的触发词为动词,日语仅63%)构成了核心障碍。在构建过程中,标注工作面临语言特异性挑战,例如波兰语中事件触发词是否需要包含论元成分引发了标注者分歧;此外,背景知识的差异导致对同一词汇的事件判断不一致,如“crime”一词在特定语境下是否应标注为死亡事件触发词。这些冲突虽经协商解决,却反映了多语言ED标注固有的复杂性,要求未来研究探索更鲁棒的标注指南与模型架构。
常用场景
经典使用场景
在自然语言处理与信息抽取的交叉领域中,MINION数据集被广泛用于多语言事件检测任务的基准测试与模型评估。该数据集覆盖了英语、西班牙语、葡萄牙语、波兰语、土耳其语、印地语、日语和韩语八种类型迥异的语言,为研究者提供了一个统一标注体系下的大规模语料库。经典使用场景包括在单语环境下训练和测试事件检测模型,以评估模型在不同语言上的表现差异;同时,也用于跨语言零样本迁移学习实验,探究事件知识从英语向其他语言的迁移能力。通过MINION,研究者能够系统性地对比不同预训练语言模型(如mBERT与XLMR)在多语言事件检测中的有效性,从而推动更鲁棒的多语言事件抽取技术发展。
衍生相关工作
MINION数据集的发布催生了一系列具有影响力的衍生研究工作,推动了多语言事件检测领域的纵深发展。基于该数据集,研究者提出了多种改进型事件检测模型,例如融合图注意力网络的跨语言事件抽取框架(GATE),通过利用语言无关的句法结构实现事件知识的有效迁移。此外,针对MINION中揭示的语种间触发词多样性差异,后续工作探索了基于原型学习的小样本事件检测方法,以应对低资源语言中标注数据稀缺的挑战。在跨语言迁移学习方面,研究者利用MINION开展了源语言选择策略的研究,发现西班牙语作为源语言在某些目标语言上优于英语,从而颠覆了英语作为唯一高资源源语言的传统认知。这些衍生工作不仅深化了对多语言事件检测难点的理解,也为构建更通用、更公平的事件抽取系统提供了理论依据与实践指导。
数据集最近研究
最新研究方向
在信息抽取领域,事件检测(Event Detection)作为理解文本中动态世界状态变化的核心任务,长期受限于单语数据集的狭隘视野。MINION数据集的出现,以其覆盖8种类型迥异语言、超5万条标注触发词的大规模规模,打破了这一桎梏,尤其将葡萄牙语、波兰语、土耳其语、印地语和日语等此前被边缘化的语言纳入研究版图。该数据集不仅揭示了现有模型在多语言场景下性能显著下降的严峻挑战——如日语和土耳其语的零样本跨语言迁移F1值骤降至35%与47%,更通过实验挑战了英语作为唯一源语言的霸权地位,发现西班牙语作为源语言能在所有目标语上取得更优效果。这一开创性工作推动了事件检测从英语中心主义向多语言泛化的范式转变,为构建真正普适的信息抽取系统奠定了数据与理论基石,也呼应了自然语言处理领域对语言多样性与公平性的迫切追求。
相关研究论文
  • 1
    MINION: a Large-Scale and Diverse Dataset for Multilingual Event Detection俄勒冈大学计算机与信息科学系 · 2022年
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务