irds/mr-tydi_th_train

`mr-tydi/th/train`数据集由ir-datasets包提供，主要用于文本检索任务。该数据集包含3,319个查询（即主题）和3,360个相关评估（qrels）。文档部分需要使用`irds/mr-tydi_th`数据集。用户可以通过Python代码加载查询和相关评估数据，并获取每条记录的详细信息。

The `mr-tydi/th/train` dataset, provided by the ir-datasets package, is primarily designed for text retrieval tasks. This dataset contains 3,319 queries (i.e., topics) and 3,360 relevance judgments (qrels). The document corpus requires the use of the `irds/mr-tydi_th` dataset. Users can load the query and relevance judgment data via Python code, and obtain detailed information for each record.

原始信息汇总

Dataset Card for mr-tydi/th/train

Overview

• Dataset Name: mr-tydi/th/train
• Provider: ir-datasets package
• Source Datasets: irds/mr-tydi_th
• Task Categories: text-retrieval

Data Details

• Queries: 3,319 topics
• Qrels: 3,360 relevance assessments
• Docs: Available via irds/mr-tydi_th

Usage Example

python from datasets import load_dataset

queries = load_dataset(irds/mr-tydi_th_train, queries) for record in queries: record # {query_id: ..., text: ...}

qrels = load_dataset(irds/mr-tydi_th_train, qrels) for record in qrels: record # {query_id: ..., doc_id: ..., relevance: ..., iteration: ...}

Citation Information

@article{Zhang2021MrTyDi, title={{Mr. TyDi}: A Multi-lingual Benchmark for Dense Retrieval}, author={Xinyu Zhang and Xueguang Ma and Peng Shi and Jimmy Lin}, year={2021}, journal={arXiv:2108.08787}, } @article{Clark2020TyDiQa, title={{TyDi QA}: A Benchmark for Information-Seeking Question Answering in Typologically Diverse Languages}, author={Jonathan H. Clark and Eunsol Choi and Michael Collins and Dan Garrette and Tom Kwiatkowski and Vitaly Nikolaev and Jennimaria Palomaki}, year={2020}, journal={Transactions of the Association for Computational Linguistics} }

搜集汇总

数据集介绍

构建方式

在信息检索领域，多语言检索基准的构建一直是研究的热点与难点。irds/mr-tydi_th_train数据集源自Mr. TyDi多语言稠密检索基准，专为泰语检索任务设计。其构建基于ir-datasets框架，从mr-tydi_th数据集中划分出训练子集，包含3,319条查询及其对应的3,360条相关性评估（qrels）。文档集合则通过irds/mr-tydi_th独立提供，确保训练数据与文档资源的清晰分离，便于研究者聚焦于查询与文档匹配模型的训练。

特点

该数据集的核心特点在于其聚焦泰语这一类型学上多样的语言，填补了低资源语言稠密检索基准的空白。训练集规模适中，查询与相关性评估的对应关系明确，为评估检索模型在泰语场景下的表现提供了标准化依据。此外，数据集遵循ir-datasets的规范格式，支持与HuggingFace Datasets库无缝集成，降低了使用门槛。其引用文献覆盖Mr. TyDi与TyDi QA两项工作，确保了构建方法的学术严谨性与可追溯性。

使用方法

使用该数据集时，可通过HuggingFace的datasets库直接加载。具体而言，调用load_dataset函数并指定数据集名称'irds/mr-tydi_th_train'，可分别加载queries与qrels两个子集。queries子集包含查询ID与文本，qrels子集则提供查询与文档的关联性评分。文档数据需额外加载irds/mr-tydi_th数据集。这种模块化设计允许研究者灵活组合数据组件，适配不同的检索模型训练与评估流程。

背景与挑战

背景概述

在信息检索领域，多语言稠密检索模型的构建与评估长期面临语料库资源匮乏的困境。为此，Xinyu Zhang、Xueguang Ma、Peng Shi与Jimin Lin于2021年提出了Mr. TyDi基准数据集，该数据集以TyDi QA为基础，针对泰语等类型学多样语言设计了检索任务。其核心研究问题在于探索稠密检索模型在多语言场景下的泛化能力，尤其是低资源语言的表现。Mr. TyDi的发布为跨语言信息检索研究提供了标准化的评估平台，显著推动了多语言NLP与信息检索交叉领域的发展，成为衡量稠密检索系统性能的重要标杆。

当前挑战

Mr. TyDi泰语训练集面临的核心挑战涵盖两大层面。其一，在领域问题层面，多语言稠密检索需克服语言间语义鸿沟与资源不均的难题，泰语作为低资源语言，其形态复杂性与稀疏标注数据加剧了模型对齐与泛化的难度。其二，在构建过程中，数据集需从原始问答语料中提取查询与相关性判断，确保跨语言语义一致性与注释质量面临高昂成本，尤其需处理泰语特有词形变化与歧义表达，同时平衡查询数量（3319条）与相关性评估（3360条）的规模与代表性，以保障基准的有效性。

常用场景

经典使用场景

在跨语言信息检索与多语言自然语言处理的研究版图中，Mr. TyDi数据集作为一项引领性的基准资源，其泰语子集irds/mr-tydi_th_train专为稠密检索模型的训练与评估而精心构建。该数据集汇聚了3,319条查询及其对应的相关性标注，为研究者提供了在资源稀缺的泰语环境下开展信息检索实验的标准化平台。经典使用场景聚焦于利用稠密向量表示技术，在泰语文档集合中高效定位与查询语义匹配的文本片段，推动多语言稠密检索模型从主流语言向低资源语言的迁移与泛化能力研究。

实际应用

在实际应用层面，irds/mr-tydi_th_train所支撑的泰语稠密检索技术，能够直接赋能面向泰语用户的多语言搜索引擎、智能问答系统及企业知识库的语义检索模块。例如，在跨国电子商务平台中，该数据集训练的模型可帮助泰语消费者精准搜索商品描述或用户评论；在学术文献管理场景中，研究者可借助其快速从泰语论文库中定位与特定研究主题高度相关的文献。此外，该数据集还可服务于跨语言新闻聚合与舆情监控系统，使非英语内容能够被纳入全球信息流分析框架，从而显著提升多语言信息服务的覆盖广度与响应精度。

衍生相关工作

围绕Mr. TyDi数据集，学术界涌现出一系列具有深远影响的衍生工作。其中，Zhang等人（2021）提出的Mr. TyDi基准本身即开创了多语言稠密检索的系统性评估范式，后续研究者在此基础上进一步探索了基于对比学习的跨语言表示优化方法，以及将稠密检索与稀疏检索融合的混合检索模型。此外，该数据集常被用作评估多语言预训练语言模型（如mBERT、XLM-R）检索能力的核心测试床，并催生了针对低资源语言的数据增强与伪标注技术的专项研究。这些工作共同推动了多语言信息检索领域从浅层词匹配向深层语义理解的范式跃迁。