BeIR/fever

BEIR Benchmark是一个异构基准，由18个不同数据集构建而成，涵盖9种信息检索任务，包括事实核查、问答、生物医学信息检索、新闻检索、论点检索、重复问题检索、引用预测、推文检索和实体检索。所有任务均使用英语进行。该数据集支持针对特定任务指标的模型评估，并设有排行榜。数据集结构包括文档、查询和相关性判断文件，均遵循特定格式。

原始信息汇总

数据集概述

数据集名称

• 名称: BEIR Benchmark
• 别名: BEIR

数据集基本信息

• 语言: 英语 (en)
• 许可证: CC-BY-SA-4.0
• 多语言性: 单语

数据集大小

• MSMARCO: 1M<n<10M
• TREC-COVID: 100k<n<1M
• NFCorpus: 1K<n<10K
• NQ: 1M<n<10M
• HotpotQA: 1M<n<10M
• FiQA: 10K<n<100K
• ArguAna: 1K<n<10K
• Touche-2020: 100K<n<1M
• CQADupstack: 100K<n<1M
• Quora: 100K<n<1M
• DBpedia: 1M<n<10M
• SCIDOCS: 10K<n<100K
• FEVER: 1M<n<10M
• Climate-FEVER: 1M<n<10M
• SciFact: 1K<n<10K

支持的任务

• 任务类别:
  • 文本检索
  • 零样本检索
  • 信息检索
  • 零样本信息检索
• 具体任务:
  • 段落检索
  • 实体链接检索
  • 事实检查检索
  • 推文检索
  • 引用预测检索
  • 重复问题检索
  • 论点检索
  • 新闻检索
  • 生物医学信息检索
  • 问答检索

数据集结构

• 数据实例:
  • 语料库: 包含文档ID、标题和文本的JSONL文件
  • 查询: 包含查询ID和文本的JSONL文件
  • Qrels: 包含查询ID、文档ID和分数的TSV文件

数据集创建

• 许可证信息: CC-BY-SA-4.0

• 引用信息:

  @inproceedings{ thakur2021beir, title={{BEIR}: A Heterogeneous Benchmark for Zero-shot Evaluation of Information Retrieval Models}, author={Nandan Thakur and Nils Reimers and Andreas R{"u}ckl{e} and Abhishek Srivastava and Iryna Gurevych}, booktitle={Thirty-fifth Conference on Neural Information Processing Systems Datasets and Benchmarks Track (Round 2)}, year={2021}, url={https://openreview.net/forum?id=wCu6T5xFjeJ} }

贡献者

• 贡献者: @Nthakur20