irds/mmarco_v2_hi_train

`mmarco/v2/hi/train`数据集由ir-datasets包提供，主要用于文本检索任务。该数据集包含808,731个查询（即主题）、532,761个相关性评估和39,780,811个文档对。文档数据需从`irds/mmarco_v2_hi`数据集中获取。

The `mmarco/v2/hi/train` dataset is provided by the ir-datasets package, and is primarily intended for text retrieval tasks. It contains 808,731 queries (i.e., topics), 532,761 relevance judgments, and 39,780,811 document pairs. The document data should be retrieved from the `irds/mmarco_v2_hi` dataset.

原始信息汇总

数据集概述

数据集名称

mmarco/v2/hi/train

数据集来源

• 源数据集：irds/mmarco_v2_hi

任务类别

• 文本检索

数据内容

• queries（查询）：808,731条
• qrels（相关性评估）：532,761条
• docpairs（文档对）：39,780,811条

数据使用

python from datasets import load_dataset

queries = load_dataset(irds/mmarco_v2_hi_train, queries) for record in queries: record # {query_id: ..., text: ...}

qrels = load_dataset(irds/mmarco_v2_hi_train, qrels) for record in qrels: record # {query_id: ..., doc_id: ..., relevance: ..., iteration: ...}

docpairs = load_dataset(irds/mmarco_v2_hi_train, docpairs) for record in docpairs: record # {query_id: ..., doc_id_a: ..., doc_id_b: ...}

引用信息

@article{Bonifacio2021MMarco, title={{mMARCO}: A Multilingual Version of {MS MARCO} Passage Ranking Dataset}, author={Luiz Henrique Bonifacio and Israel Campiotti and Roberto Lotufo and Rodrigo Nogueira}, year={2021}, journal={arXiv:2108.13897} }

搜集汇总

数据集介绍

构建方式

在信息检索领域，多语言数据集对于推动跨语言文本检索研究至关重要。mMARCO v2 印地语训练集（irds/mmarco_v2_hi_train）是基于 MS MARCO 通道排序数据集的多语言扩展版本，由 ir-datasets 包提供。该数据集通过将原始英文查询与文档自动翻译为印地语构建而成，保留了原始数据集的检索任务结构。其构建过程确保了语言迁移的语义一致性，为印地语检索任务提供了大规模、高质量的监督信号。

特点

该数据集具有显著的多层次结构特征，包含808,731条查询（queries）、532,761个相关性评估（qrels）以及39,780,811个文档对（docpairs），构成了一个规模庞大且标注丰富的印地语检索基准。查询与文档的对应关系通过精确的相关性评分进行关联，而文档对则提供了正负样本对比，特别适用于训练排序模型和对比学习任务。此外，数据集文档部分需通过关联的数据集获取，体现了模块化的设计理念。

使用方法

使用该数据集时，可通过 Hugging Face 的 datasets 库直接加载。具体而言，调用 load_dataset('irds/mmarco_v2_hi_train', 'queries') 可获取查询数据，每条记录包含查询标识与文本内容；调用 load_dataset('irds/mmarco_v2_hi_train', 'qrels') 可获得包含查询、文档与相关性评分的评估数据；调用 load_dataset('irds/mmarco_v2_hi_train', 'docpairs') 可获取用于训练对比模型的文档对。加载过程将自动下载数据并以 Hugging Face Dataset 格式存储，便于后续检索模型的微调与评估。

背景与挑战

背景概述

在多语言信息检索领域，非英语语言的检索资源长期匮乏，制约了全球化背景下跨语言知识获取的进程。mMARCO数据集由Luiz Henrique Bonifacio、Israel Campiotti、Roberto Lotufo和Rodrigo Nogueira等研究人员于2021年提出，旨在将英文MS MARCO段落排序数据集扩展至多语言版本。其中，irds/mmarco_v2_hi_train作为印地语子集，包含超过80万条查询和近4000万文档对，为低资源语言检索研究提供了关键基准。该数据集不仅填补了印地语检索领域的空白，还通过标准化评估协议推动了多语言信息检索系统的性能验证，其影响力已辐射至自然语言处理与信息检索交叉领域的研究范式革新。

当前挑战

该数据集面临的核心挑战包括：首先，跨语言语义对齐问题——印地语与源语言英语存在显著语法和词汇差异，检索模型需有效捕捉跨语言语义等价关系，避免因语言特异性导致的召回率下降。其次，数据稀疏性与噪声干扰——尽管查询规模庞大，但非均衡的文档分布和人工标注的潜在偏差可能影响模型泛化能力，尤其在处理罕见查询或长尾主题时。此外，构建过程中需应对多语言资源获取困难，如印地语查询的自然表达多样性、文档对的跨语言相关性判定标准统一性，以及大规模数据清洗中的人工成本控制，这些因素共同构成了当前研究的瓶颈。

常用场景

经典使用场景

在跨语言信息检索领域，mMARCO v2 印地语训练集（irds/mmarco_v2_hi_train）为研究者提供了大规模、高质量的查询-文档相关性标注数据。该数据集包含超过80万条查询和53万条相关性判断，以及近4000万个文档对，特别适用于训练和评估基于深度学习的印地语段落排序模型。其经典的使用场景在于构建神经检索系统，利用双编码器或交叉编码器架构，学习查询与文档之间的语义匹配关系，从而在印地语环境中实现精准的文本检索与排序。

解决学术问题

该数据集有效解决了低资源语言（如印地语）在信息检索研究中缺乏大规模标注语料的核心困境。学术研究长期受限于英文主导的基准测试，而mMARCO v2 印地语子集通过机器翻译与人工校验相结合的策略，将MS MARCO英文语料扩展至印地语，为跨语言迁移学习、多语言检索模型泛化能力评估以及零样本检索方法验证提供了标准化平台。其发布显著推动了非英语检索技术的理论进展，尤其促进了对抗性训练、对比学习等范式在印地语场景下的适用性探索。

衍生相关工作

围绕该数据集衍生出一系列经典工作，包括基于mMARCO的多语言检索基线模型（如mBERT、XLM-R的微调版本），以及针对印地语词形变化设计的子词分词优化方案。研究者还提出了跨语言知识蒸馏框架，利用英文教师模型指导印地语学生模型训练，显著降低了标注成本。此外，该数据集被整合至TREC NeuCLIR等评测任务中，成为评估多语言检索系统鲁棒性的重要基准，催生了诸如稀疏检索与稠密检索融合等混合范式研究。