income/arguana-top-20-gen-queries

BEIR基准数据集是一个异构基准，由18个不同的数据集组成，代表了9个信息检索任务，包括事实核查、问答、生物医学信息检索、新闻检索、论点检索、重复问题检索、引用预测、推文检索和实体检索。该数据集是单语（英语）的，采用CC-BY-SA-4.0许可。数据集结构包括语料库、查询和相关判断文件，每个文件都有特定的格式和字段。README还提到了使用DocT5query模型为NFCorpus数据集生成合成查询。

原始信息汇总

BEIR Benchmark 数据集概述

数据集基本信息

• 名称: BEIR Benchmark
• 别名: BEIR
• 语言: 英语 (en)
• 许可证: CC-BY-SA-4.0
• 多语言性: 单语种
• 大小分类:
  • msmarco: 1M<n<10M
  • trec-covid: 100k<n<1M
  • nfcorpus: 1K<n<10K
  • nq: 1M<n<10M
  • hotpotqa: 1M<n<10M
  • fiqa: 10K<n<100K
  • arguana: 1K<n<10K
  • touche-2020: 100K<n<1M
  • cqadupstack: 100K<n<1M
  • quora: 100K<n<1M
  • dbpedia: 1M<n<10M
  • scidocs: 10K<n<100K
  • fever: 1M<n<10M
  • climate-fever: 1M<n<10M
  • scifact: 1K<n<10K

数据集结构

数据实例格式

• 文档（Corpus）:

  • _id: 字符串，文档唯一标识符
  • title: 字符串，文档标题（可选）
  • text: 字符串，文档内容

• 查询（Queries）:

  • _id: 字符串，查询唯一标识符
  • text: 字符串，查询内容

• 相关性判断（Qrels）:

  • query-id: 字符串，查询标识符
  • corpus-id: 字符串，文档标识符
  • score: 整数，相关性评分

数据集任务

• 任务类别: 文本检索
• 支持的任务:
  • Fact-checking
  • Question-Answering
  • Bio-Medical IR
  • News Retrieval
  • Argument Retrieval
  • Duplicate Question Retrieval
  • Citation-Prediction
  • Tweet Retrieval
  • Entity Retrieval

数据集创建

数据集来源

• 预处理数据集: 来自18个不同的数据集，涵盖9种信息检索任务。

数据集使用注意事项

• 数据集影响: 用于评估模型的任务特定指标，如F1或EM，以及从维基百科检索支持信息的能力。
• 数据集偏见: 未提供详细信息。
• 其他已知限制: 未提供详细信息。

附加信息

• 数据集维护者: 未提供详细信息。

• 引用信息:

  @inproceedings{ thakur2021beir, title={{BEIR}: A Heterogeneous Benchmark for Zero-shot Evaluation of Information Retrieval Models}, author={Nandan Thakur and Nils Reimers and Andreas R{"u}ckl{e} and Abhishek Srivastava and Iryna Gurevych}, booktitle={Thirty-fifth Conference on Neural Information Processing Systems Datasets and Benchmarks Track (Round 2)}, year={2021}, url={https://openreview.net/forum?id=wCu6T5xFjeJ} }

• 贡献者: 感谢@Nthakur20添加此数据集。