irds/mr-tydi_ar_train

---
pretty_name: '`mr-tydi/ar/train`'
viewer: false
source_datasets: ['irds/mr-tydi_ar']
task_categories:
- text-retrieval
---

# Dataset Card for `mr-tydi/ar/train`

The `mr-tydi/ar/train` dataset, provided by the [ir-datasets](https://ir-datasets.com/) package.
For more information about the dataset, see the [documentation](https://ir-datasets.com/mr-tydi#mr-tydi/ar/train).

# Data

This dataset provides:
- `queries` (i.e., topics); count=12,377
- `qrels`: (relevance assessments); count=12,377

- For `docs`, use [`irds/mr-tydi_ar`](https://huggingface.co/datasets/irds/mr-tydi_ar)

## Usage

```python
from datasets import load_dataset

queries = load_dataset('irds/mr-tydi_ar_train', 'queries')
for record in queries:
record # {'query_id': ..., 'text': ...}

qrels = load_dataset('irds/mr-tydi_ar_train', 'qrels')
for record in qrels:
record # {'query_id': ..., 'doc_id': ..., 'relevance': ..., 'iteration': ...}

```

Note that calling `load_dataset` will download the dataset (or provide access instructions when it's not public) and make a copy of the
data in 🤗 Dataset format.

## Citation Information

```
@article{Zhang2021MrTyDi,
title={{Mr. TyDi}: A Multi-lingual Benchmark for Dense Retrieval},
author={Xinyu Zhang and Xueguang Ma and Peng Shi and Jimmy Lin},
year={2021},
journal={arXiv:2108.08787},
}
@article{Clark2020TyDiQa,
title={{TyDi QA}: A Benchmark for Information-Seeking Question Answering in Typologically Diverse Languages},
author={Jonathan H. Clark and Eunsol Choi and Michael Collins and Dan Garrette and Tom Kwiatkowski and Vitaly Nikolaev and Jennimaria Palomaki},
year={2020},
journal={Transactions of the Association for Computational Linguistics}
}
```

---
数据集别名：`mr-tydi/ar/train`
数据集查看器：不可用
源数据集：['irds/mr-tydi_ar']
任务类别：
- 文本检索（text-retrieval）
---

# 数据集卡片：`mr-tydi/ar/train`

本数据集由[ir-datasets](https://ir-datasets.com/)包提供。如需了解该数据集的更多信息，请参阅[官方文档](https://ir-datasets.com/mr-tydi#mr-tydi/ar/train)。

# 数据集内容

本数据集包含：
- `查询集（queries，即主题集）`：共计12,377条
- `相关性标注集（qrels，即相关性评估）`：共计12,377条

如需获取`文档集（docs）`，请使用[`irds/mr-tydi_ar`](https://huggingface.co/datasets/irds/mr-tydi_ar)

## 使用方法

python
from datasets import load_dataset

queries = load_dataset('irds/mr-tydi_ar_train', 'queries')
for record in queries:
record # {'query_id': ..., 'text': ...}

qrels = load_dataset('irds/mr-tydi_ar_train', 'qrels')
for record in qrels:
record # {'query_id': ..., 'doc_id': ..., 'relevance': ..., 'iteration': ...}

注：调用`load_dataset`函数将自动下载该数据集（若数据集未公开，则会提供获取指南），并将其转换为🤗 数据集格式的数据副本。

## 引用信息

bibtex
@article{Zhang2021MrTyDi,
title={{Mr. TyDi}: A Multi-lingual Benchmark for Dense Retrieval},
author={Xinyu Zhang and Xueguang Ma and Peng Shi and Jimmy Lin},
year={2021},
journal={arXiv:2108.08787},
}
@article{Clark2020TyDiQa,
title={{TyDi QA}: A Benchmark for Information-Seeking Question Answering in Typologically Diverse Languages},
author={Jonathan H. Clark and Eunsol Choi and Michael Collins and Dan Garrette and Tom Kwiatkowski and Vitaly Nikolaev and Jennimaria Palomaki},
year={2020},
journal={Transactions of the Association for Computational Linguistics}
}

原始信息汇总

数据集概述

数据集名称

mr-tydi/ar/train

数据集来源

• 源数据集：irds/mr-tydi_ar

数据集内容

• queries（查询）：数量为12,377
• qrels（相关性评估）：数量为12,377
• docs（文档）：使用irds/mr-tydi_ar数据集

数据集用途示例

python from datasets import load_dataset

queries = load_dataset(irds/mr-tydi_ar_train, queries) for record in queries: record # {query_id: ..., text: ...}

qrels = load_dataset(irds/mr-tydi_ar_train, qrels) for record in qrels: record # {query_id: ..., doc_id: ..., relevance: ..., iteration: ...}

引用信息

@article{Zhang2021MrTyDi, title={{Mr. TyDi}: A Multi-lingual Benchmark for Dense Retrieval}, author={Xinyu Zhang and Xueguang Ma and Peng Shi and Jimmy Lin}, year={2021}, journal={arXiv:2108.08787}, } @article{Clark2020TyDiQa, title={{TyDi QA}: A Benchmark for Information-Seeking Question Answering in Typologically Diverse Languages}, author={Jonathan H. Clark and Eunsol Choi and Michael Collins and Dan Garrette and Tom Kwiatkowski and Vitaly Nikolaev and Jennimaria Palomaki}, year={2020}, journal={Transactions of the Association for Computational Linguistics} }

搜集汇总

数据集介绍

构建方式

在信息检索领域，多语言稠密检索基准的构建是一项重要挑战。Mr. TyDi 数据集应运而生，它基于 TyDi QA 语料库衍生而来，专为评估多语言稠密检索模型而设计。其中阿拉伯语子集的训练部分（mr-tydi/ar/train）由 ir-datasets 包提供，涵盖了 12,377 条查询及其对应的相关性判断（qrels），而文档集合则需从独立的 irds/mr-tydi_ar 数据集中获取。这种分离式的构建方式，使得查询与文档的管理更加灵活，便于研究者针对特定语言进行检索实验的配置。

特点

该数据集的核心特点在于其多语言与稠密检索导向的专属性。作为 Mr. TyDi 基准的一部分，阿拉伯语训练集不仅提供了丰富的查询主题，还附带了精确的相关性标注，为训练和评估稠密检索模型提供了标准化的测试平台。数据集的组织结构清晰，查询与相关性判断独立存储，支持高效的批量处理。此外，其与 ir-datasets 生态系统的紧密集成，确保了数据获取的便捷性与可重复性，使得跨语言检索研究能够更加系统化地展开。

使用方法

使用该数据集时，研究者可通过 Hugging Face 的 datasets 库直接加载。具体而言，调用 load_dataset('irds/mr-tydi_ar_train', 'queries') 即可获取包含 query_id 和 text 字段的查询记录；而调用 load_dataset('irds/mr-tydi_ar_train', 'qrels') 则可获得包含 query_id、doc_id、relevance 和 iteration 字段的相关性判断。值得注意的是，文档数据需另行从 irds/mr-tydi_ar 加载。这一调用方式简化了数据预处理流程，使得研究者能够将精力集中于检索模型的构建与优化之上。

背景与挑战

背景概述

Mr. TyDi（多语言密集检索基准）由Xinyu Zhang、Xueguang Ma、Peng Shi和Jimmy Lin于2021年提出，旨在填补多语言信息检索领域在密集检索范式下的评估空白。该数据集以阿拉伯语为特定语言分支，构建了包含12,377条查询及其相关性判断的训练集，依托TyDi QA中涵盖的11种类型多样语言，聚焦于解决跨语言知识获取的核心问题。作为首个系统评估密集检索模型在多语言场景下表现的大规模基准，Mr. TyDi推动了多语言自然语言处理领域从稀疏检索向密集检索的范式转换，为低资源语言的信息检索研究提供了关键评估平台，其影响力体现在后续众多跨语言检索模型的基准测试中。

当前挑战

Mr. TyDi/ar/train所面临的挑战首先源于多语言密集检索的领域难题：不同语言的语法结构、词汇形态和语义表达差异巨大，使模型难以在阿拉伯语等形态丰富语言上学习鲁棒的查询-文档匹配表征，尤其在训练数据稀缺时易出现跨语言泛化能力不足。其次，数据集构建过程中遭遇显著困难：需从TyDi QA的问答对中人工筛选并重写为检索查询，确保查询的自然性与信息性；同时需建立跨语言相关性判断标准，应对阿拉伯语标注者之间对查询意图理解的主观差异，以及评估不同检索粒度（如段落级 vs. 文档级）带来的标注一致性挑战。

常用场景

经典使用场景

在信息检索与自然语言处理领域，mr-tydi/ar/train 数据集作为多语言密集检索基准 Mr. TyDi 的阿拉伯语训练子集，被广泛用于评估和训练跨语言文本检索系统。该数据集包含超过一万两千条查询及其对应的相关性判断，为研究者提供了构建和验证稠密检索模型的标准化平台。其经典使用场景在于，通过利用查询与文档之间的语义匹配，推动基于深度学习的检索算法在低资源语言上的性能突破，尤其聚焦于阿拉伯语这一形态丰富、句法复杂的语种。

解决学术问题

该数据集核心解决了多语言信息检索领域中标注数据匮乏与模型泛化能力不足的学术难题。传统检索系统多依赖英文资源，而 Mr. TyDi 通过覆盖十一种类型学差异显著的语言，为研究者提供了跨语言迁移学习的基准。其阿拉伯语子集特别有助于探究稠密检索在形态复杂语言中的适应性，推动了对查询与文档间语义鸿沟的深入理解。这一基准的提出，显著促进了多语言预训练模型与稠密检索架构的融合，为低资源语言的检索任务奠定了评估基石。

衍生相关工作

该数据集衍生了多项经典工作，包括基于 Mr. TyDi 基准提出的多语言稠密检索模型（如 mDPR、ColBERT-X），以及针对阿拉伯语优化的小样本检索算法。研究者还利用其查询与相关性标注，探索了跨语言知识蒸馏、对比学习等前沿技术。此外，该数据集常与 TyDi QA 问答数据集联合使用，形成了从检索到阅读的完整流水线评估体系，推动了多语言开放域问答系统的进步。