hsseinmz/arcd

阿拉伯语阅读理解数据集（ARCD）由1,395个问题组成，这些问题是由众包工作者在维基百科文章上提出的。数据集的任务类别是问答（question-answering），具体任务为抽取式问答（extractive-qa）。数据集的语言为阿拉伯语（ar），并且是单语种（monolingual）。数据集的大小在1K到10K之间，分为训练集和验证集，分别包含693和702个样本。数据集的字段包括id、title、context、question和answers，其中answers包含text和answer_start两个子字段。

原始信息汇总

数据集概述

名称: ARCD (Arabic Reading Comprehension Dataset)

语言: 阿拉伯语 (ar-SA)

许可证: MIT

多语言性: 单语种

大小: 1K<n<10K

源数据: 原始数据

任务类别: 问答 (extractive-qa)

数据集结构

数据实例

• 字段:
  • id: 字符串
  • title: 字符串
  • context: 字符串
  • question: 字符串
  • answers: 字典，包含
    • text: 字符串
    • answer_start: 整数

数据分割

名称	训练	验证
plain_text	693	702

数据集创建

注释者

• 注释创建者: 众包
• 语言创建者: 众包

许可证信息

• 许可证: MIT

引用信息

@inproceedings{mozannar-etal-2019-neural, title = "Neural {A}rabic Question Answering", author = "Mozannar, Hussein and Maamary, Elie and El Hajal, Karl and Hajj, Hazem", booktitle = "Proceedings of the Fourth Arabic Natural Language Processing Workshop", month = aug, year = "2019", address = "Florence, Italy", publisher = "Association for Computational Linguistics", url = "https://www.aclweb.org/anthology/W19-4612", doi = "10.18653/v1/W19-4612", pages = "108--118", abstract = "This paper tackles the problem of open domain factual Arabic question answering (QA) using Wikipedia as our knowledge source. This constrains the answer of any question to be a span of text in Wikipedia. Open domain QA for Arabic entails three challenges: annotated QA datasets in Arabic, large scale efficient information retrieval and machine reading comprehension. To deal with the lack of Arabic QA datasets we present the Arabic Reading Comprehension Dataset (ARCD) composed of 1,395 questions posed by crowdworkers on Wikipedia articles, and a machine translation of the Stanford Question Answering Dataset (Arabic-SQuAD). Our system for open domain question answering in Arabic (SOQAL) is based on two components: (1) a document retriever using a hierarchical TF-IDF approach and (2) a neural reading comprehension model using the pre-trained bi-directional transformer BERT. Our experiments on ARCD indicate the effectiveness of our approach with our BERT-based reader achieving a 61.3 F1 score, and our open domain system SOQAL achieving a 27.6 F1 score.", }

搜集汇总

数据集介绍

构建方式

在自然语言处理领域，阿拉伯语机器阅读理解的发展长期受限于高质量标注数据的匮乏。为填补这一空白，研究者构建了阿拉伯语阅读理解数据集（ARCD），该数据集以维基百科文章为知识源，通过众包方式邀请标注员针对文章内容提出问题和对应的答案片段。数据集共包含1,395个问答对，每个样本包括问题、上下文、答案文本及其在上下文中的起始位置。数据被划分为训练集（693条）和验证集（702条），以支持模型的训练与评估。

使用方法

使用ARCD数据集时，研究者可通过HuggingFace Datasets库直接加载，指定'plain_text'配置即可获取训练与验证分割。数据集适用于微调基于Transformer的阿拉伯语预训练模型，如BERT或多语言变体，以执行抽取式问答任务。评估指标通常采用F1分数和精确匹配率，用以衡量模型答案与标准答案的重叠程度。该数据集也可与阿拉伯语SQuAD翻译版本结合使用，以扩展训练规模，提升开放域问答系统的泛化能力。

背景与挑战

背景概述

阿拉伯语作为全球使用广泛的语言之一，其在自然语言处理领域的研究长期受限于高质量标注资源的匮乏。阿拉伯语阅读理解数据集（ARCD）于2019年由Hussein Mozannar、Elie Maamary、Karl El Hajal和Hazem Hajj等研究者提出，旨在填补阿拉伯语抽取式问答任务的空白。该数据集包含1,395个由众包工作者基于维基百科文章提出的问题及对应答案，是阿拉伯语开放域问答系统SOQAL的核心支撑。ARCD的发布不仅为阿拉伯语机器阅读理解研究提供了基准测试平台，还通过结合阿拉伯语SQuAD的机器翻译版本，推动了跨语言迁移学习在低资源语言中的应用。其影响力体现在后续多项阿拉伯语问答和阅读理解模型的设计与评估中，成为该领域不可或缺的里程碑式资源。

当前挑战

ARCD所面临的挑战首先体现在阿拉伯语自然语言处理的基础困境上：阿拉伯语形态丰富、方言多样，且缺乏大规模、高质量标注语料库，导致模型在抽取式问答任务中难以准确捕捉语义边界。具体而言，数据集构建过程中，众包工作者对维基百科文章进行提问时，答案的起始位置标注存在主观偏差，增加了模型训练的噪声。此外，ARCD仅包含约1,400个样本，规模较小，难以支撑深度神经网络的充分训练，导致模型泛化能力受限。在领域问题层面，开放域问答需要高效的信息检索与机器阅读理解协同工作，而阿拉伯语的词干提取、命名实体识别等预处理环节的误差会进一步放大下游任务的性能瓶颈，使得ARCD上的F1得分（如BERT-based reader的61.3分）仍有显著提升空间。

常用场景

经典使用场景

在阿拉伯语自然语言处理领域，ARCD（Arabic Reading Comprehension Dataset）作为首个专门针对阿拉伯语的抽取式阅读理解数据集，其经典使用场景在于训练和评估机器阅读理解模型在阿拉伯语文本上的性能。该数据集包含1,395个由众包工作者基于维基百科文章提出的问题，每个问题对应一个答案片段。研究者通常利用ARCD来微调预训练语言模型（如BERT的阿拉伯语变体），通过精确匹配和F1分数等指标衡量模型从给定上下文中提取正确答案的能力，从而推动阿拉伯语问答系统的技术发展。

解决学术问题

ARCD的构建有效解决了阿拉伯语阅读理解领域缺乏高质量标注数据集的学术困境。在此之前，大多数问答系统研究集中在英语等资源丰富语言上，阿拉伯语因数据稀缺而进展缓慢。ARCD的发布使得研究者能够系统性地评估不同模型在阿拉伯语上的抽取式问答能力，揭示了语言特异性挑战（如丰富的形态变化和复杂的句法结构）对模型性能的影响。该数据集促进了跨语言迁移学习研究，并为后续阿拉伯语问答系统的基准测试提供了标准化评估框架，其意义在于填补了低资源语言在高级语义理解任务中的空白。

实际应用

在实际应用层面，ARCD驱动的问答技术可被部署于阿拉伯语智能客服系统、教育辅助工具和数字图书馆信息检索平台。例如，面向阿拉伯语用户的搜索引擎能够利用基于ARCD训练的模型，从阿拉伯语维基百科等知识库中直接抽取答案，提升信息获取效率。此外，该数据集支持构建阿拉伯语语音助手的阅读理解模块，使设备能够理解并回应复杂的事实性问题。在新闻聚合与文档分析场景中，ARCD衍生的模型可自动从大量阿拉伯语文本中定位关键信息，帮助用户快速完成信息筛选与整合。

数据集最近研究

最新研究方向

阿拉伯语机器阅读理解的前沿探索中，ARCD数据集作为首个面向维基百科的众包阿拉伯语抽取式问答资源，正推动低资源语言自然语言处理的突破。该数据集包含1395个问答对，与阿拉伯语SQuAD机器翻译版本共同支撑了SOQAL系统的开发——该系统采用层次化TF-IDF检索与BERT预训练模型结合的架构，在ARCD上实现了61.3%的F1分数。当前研究热点聚焦于跨语言迁移学习与多任务联合训练，通过ARCD验证阿拉伯语BERT模型在开放域问答中的泛化能力，其成果直接关联到阿拉伯语信息检索、智能客服及教育领域的实际应用。该数据集填补了阿拉伯语阅读理解基准的空白，为弥合高资源与低资源语言间的技术鸿沟提供了关键支撑。