neuclir/neumarco

---
annotations_creators:
- machine-generated
language:
- fa
- ru
- zh
language_creators:
- machine-generated
multilinguality:
- multilingual
pretty_name: NeuMARCO
size_categories:
- 1M<n<10M
source_datasets:
- extended|irds/msmarco-passage
tags: []
task_categories:
- text-retrieval
---

# Dataset Card for NeuMARCO

## Dataset Description

- **Website:** https://neuclir.github.io/

### Dataset Summary

This is the dataset created for TREC 2022 NeuCLIR Track. The collection consists of documents from [`msmarco-passage`](https://ir-datasets.com/msmarco-passage) translated into
Chinese, Persian, and Russian.

### Languages

- Chinese
- Persian
- Russian

## Dataset Structure

### Data Instances

| Split | Documents |
|-----------------|----------:|
| `fas` (Persian) | 8.8M |
| `rus` (Russian) | 8.8M |
| `zho` (Chinese) | 8.8M |

### Data Fields
- `doc_id`: unique identifier for this document
- `text`: translated passage text

## Dataset Usage

Using 🤗 Datasets:

```python
from datasets import load_dataset

dataset = load_dataset('neuclir/neumarco')
dataset['fas'] # Persian passages
dataset['rus'] # Russian passages
dataset['zho'] # Chinese passages
```

annotations_creators:
- 机器生成
language:
- 波斯语（fa）
- 俄语（ru）
- 中文（zh）
language_creators:
- 机器生成
multilinguality:
- 多语言
pretty_name: NeuMARCO
size_categories:
- 100万<数据规模<1000万
source_datasets:
- 扩展自|irds/msmarco-passage
tags: []
task_categories:
- 文本检索

# NeuMARCO 数据集卡片

## 数据集说明

- **官方网站**：https://neuclir.github.io/

### 数据集概述

本数据集专为TREC 2022 NeuCLIR赛道打造。该数据集集合包含源自[`msmarco-passage`](https://ir-datasets.com/msmarco-passage)的文档，已被翻译为中文、波斯语与俄语。

### 支持语言

- 中文
- 波斯语
- 俄语

## 数据集结构

### 数据实例

| 数据集拆分 | 文档数量 |
|-----------------|----------:|
| `fas`（波斯语） | 880万 |
| `rus`（俄语） | 880万 |
| `zho`（中文） | 880万 |

### 数据字段
- `doc_id`：该文档的唯一标识符
- `text`：翻译后的段落文本

## 数据集使用方法

使用🤗 数据集库：

python
from datasets import load_dataset

dataset = load_dataset('neuclir/neumarco')
dataset['fas'] # 波斯语段落
dataset['rus'] # 俄语段落
dataset['zho'] # 中文段落

原始信息汇总

数据集概述

数据集名称

NeuMARCO

数据集描述

该数据集是为TREC 2022 NeuCLIR Track创建的，包含从msmarco-passage数据集翻译成中文、波斯语和俄语的文档。

语言

• 中文
• 波斯语
• 俄语

数据集结构

数据实例

分割	文档数量
fas (波斯语)	8.8M
rus (俄语)	8.8M
zho (中文)	8.8M

数据字段

• doc_id: 文档的唯一标识符
• text: 翻译后的文本内容

数据集使用

使用🤗 Datasets加载数据集的示例代码如下：

python from datasets import load_dataset

dataset = load_dataset(neuclir/neumarco) dataset[fas] # 波斯语文本 dataset[rus] # 俄语文本 dataset[zho] # 中语文本

搜集汇总

数据集介绍

构建方式

NeuMARCO数据集是为TREC 2022 NeuCLIR赛道专门构建的多语言检索资源。其构建基础源自经典的MS MARCO Passage数据集，通过机器翻译技术将英文语料精准转化为中文、波斯文和俄文三种语言版本，从而形成规模达880万条文档的多语言平行语料库。每个文档保留原始的唯一标识符'doc_id'，并包含经过翻译处理的文本内容'text'，确保了跨语言场景下数据的一致性与可比性。

特点

该数据集最显著的特征在于其多语言覆盖能力，同时涵盖中文、波斯语和俄语三种非英语语言，每个子集均包含约880万条高质量翻译文档。作为信息检索领域的基准资源，它填补了低资源语言在神经检索研究中的空白，为跨语言文本检索任务提供了标准化评估平台。数据集的规模与多样性使其能够支持深度神经网络模型的训练与评测。

使用方法

使用者可通过Hugging Face的Datasets库便捷加载该资源，仅需一行代码'datasets.load_dataset('neuclir/neumarco')'即可获取完整数据。加载后可通过语言代码键访问特定子集，例如'dataset['fas']'获取波斯语数据，'dataset['rus']'获取俄语数据，'dataset['zho']'获取中文数据。该接口设计兼容主流深度学习框架，便于研究人员快速开展跨语言检索实验与模型评估工作。

背景与挑战

背景概述

NeuMARCO数据集诞生于TREC 2022 NeuCLIR（神经跨语言信息检索）赛道，由相关研究机构联合创建，旨在应对多语言环境中信息检索的核心挑战。该数据集以MS MARCO Passage语料库为基础，通过机器翻译技术将其转化为中文、波斯语和俄语三种语言版本，每个语言子集包含约880万篇文档。作为跨语言检索领域的重要基准，NeuMARCO为评估和推动神经检索模型在非英语语言上的泛化能力提供了标准化测试平台，其影响力体现在促进多语言信息获取技术的进步，尤其适用于低资源语言的检索任务研究。

当前挑战

NeuMARCO面临的核心领域挑战在于跨语言语义匹配的复杂性，即如何准确对齐不同语言中语义等价的查询与文档，这要求检索模型超越词汇层面的对应，理解深层的跨语言语义关系。在构建过程中，机器翻译质量成为关键瓶颈：自动生成的译文可能引入噪声、歧义或文化特异性偏差，导致原始MS MARCO中的相关性标注在翻译后失真。此外，平衡多语言间的表征空间、避免语言偏置，以及处理波斯语等形态丰富语言的稀疏性问题，均为数据集构建与后续模型训练增添了技术难度。

常用场景

经典使用场景

NeuMARCO数据集作为TREC 2022 NeuCLIR评测任务的核心资源，其最经典的使用场景在于跨语言信息检索（Cross-Lingual Information Retrieval, CLIR）研究。该数据集将英文MS MARCO Passage语料库通过机器翻译扩展为中文、波斯语和俄语三种非英语版本，为评估检索系统在多语言环境下的跨语言文档排序能力提供了标准化的测试平台。研究者可基于此数据集构建端到端的跨语言检索模型，验证机器翻译质量对检索性能的影响，或探索零样本跨语言迁移的可行性。此外，该数据集支持对检索系统在低资源语言上的泛化能力进行基准测试，成为CLIR领域不可或缺的评估工具。

实际应用

在实际应用场景中，NeuMARCO数据集直接服务于多语言搜索引擎、跨语言问答系统和全球知识管理平台等产品的研发与优化。例如，跨国企业可利用该数据集训练能够同时处理中文、波斯语和俄语用户查询的检索模型，实现非英语文档的精准召回；国际新闻机构可基于此构建跨语言新闻聚合系统，辅助记者快速定位多语种来源的关联信息。此外，该数据集还为低资源语言的数字图书馆建设提供了技术验证基础，有助于缩小数字鸿沟，推动全球信息无障碍获取。

衍生相关工作

NeuMARCO数据集衍生了一系列具有代表性的研究工作，包括基于神经网络的跨语言检索模型（如XLM-R增强的密集检索器）、机器翻译质量感知的排序算法，以及多语言预训练语言模型的检索适配方法。例如，相关研究利用该数据集验证了跨语言对比学习在检索任务中的有效性，并提出了针对机器翻译噪声的鲁棒训练策略。此外，NeuMARCO还催生了多语言检索评估框架的标准化探索，推动了TREC NeuCLIR评测任务的持续迭代，为后续如NeuCLIR 2023等评测活动提供了数据基础和方法论参考。