irds/mr-tydi_ja

`mr-tydi/ja`数据集由`ir-datasets`包提供，主要用于文本检索任务。该数据集包含三个部分：文档（`docs`，共7,000,027条）、查询（`queries`，共5,353条）和相关性评估（`qrels`，共5,548条）。该数据集被用于`mr-tydi_ja_dev`、`mr-tydi_ja_test`和`mr-tydi_ja_train`等子数据集。用户可以通过Hugging Face的`datasets`库加载和使用该数据集。

原始信息汇总

数据集概述

数据集名称

mr-tydi/ja

数据提供者

由 ir-datasets 提供。

数据内容

• 文档 (docs): 数量为7,000,027。
• 查询 (queries): 数量为5,353。
• 相关性评估 (qrels): 数量为5,548。

数据用途

该数据集被用于以下项目：

• mr-tydi_ja_dev
• mr-tydi_ja_test
• mr-tydi_ja_train

数据加载示例

python from datasets import load_dataset

docs = load_dataset(irds/mr-tydi_ja, docs) for record in docs: record # {doc_id: ..., text: ...}

queries = load_dataset(irds/mr-tydi_ja, queries) for record in queries: record # {query_id: ..., text: ...}

qrels = load_dataset(irds/mr-tydi_ja, qrels) for record in qrels: record # {query_id: ..., doc_id: ..., relevance: ..., iteration: ...}

引用信息

@article{Zhang2021MrTyDi, title={{Mr. TyDi}: A Multi-lingual Benchmark for Dense Retrieval}, author={Xinyu Zhang and Xueguang Ma and Peng Shi and Jimmy Lin}, year={2021}, journal={arXiv:2108.08787}, } @article{Clark2020TyDiQa, title={{TyDi QA}: A Benchmark for Information-Seeking Question Answering in Typologically Diverse Languages}, author={Jonathan H. Clark and Eunsol Choi and Michael Collins and Dan Garrette and Tom Kwiatkowski and Vitaly Nikolaev and Jennimaria Palomaki}, year={2020}, journal={Transactions of the Association for Computational Linguistics} }