five

irds/wapo_v2_trec-news-2019

收藏
Hugging Face2023-01-05 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/irds/wapo_v2_trec-news-2019
下载链接
链接失效反馈
官方服务:
资源简介:
--- pretty_name: '`wapo/v2/trec-news-2019`' viewer: false source_datasets: [] task_categories: - text-retrieval --- # Dataset Card for `wapo/v2/trec-news-2019` The `wapo/v2/trec-news-2019` dataset, provided by the [ir-datasets](https://ir-datasets.com/) package. For more information about the dataset, see the [documentation](https://ir-datasets.com/wapo#wapo/v2/trec-news-2019). # Data This dataset provides: - `queries` (i.e., topics); count=60 - `qrels`: (relevance assessments); count=15,655 ## Usage ```python from datasets import load_dataset queries = load_dataset('irds/wapo_v2_trec-news-2019', 'queries') for record in queries: record # {'query_id': ..., 'doc_id': ..., 'url': ...} qrels = load_dataset('irds/wapo_v2_trec-news-2019', 'qrels') for record in qrels: record # {'query_id': ..., 'doc_id': ..., 'relevance': ..., 'iteration': ...} ``` Note that calling `load_dataset` will download the dataset (or provide access instructions when it's not public) and make a copy of the data in 🤗 Dataset format. ## Citation Information ``` @inproceedings{Soboroff2019News, title={TREC 2019 News Track Overview}, author={Ian Soboroff and Shudong Huang and Donna Harman}, booktitle={TREC}, year={2019} } ```

--- pretty_name: '`wapo/v2/trec-news-2019`' 数据集查看器:禁用 源数据集:[] 任务类别: - 文本检索(text-retrieval) --- # 数据集卡片:`wapo/v2/trec-news-2019` 本`wapo/v2/trec-news-2019`数据集由[ir-datasets](https://ir-datasets.com/)包提供。如需了解该数据集的更多信息,请参阅[官方文档](https://ir-datasets.com/wapo#wapo/v2/trec-news-2019)。 ## 数据内容 本数据集包含: - `查询(queries)`(即主题集合),共计60条 - `相关性标注集(qrels)`(即相关性评估数据),共计15655条 ## 使用方法 python from datasets import load_dataset queries = load_dataset('irds/wapo_v2_trec-news-2019', 'queries') for record in queries: record # {'query_id': ..., 'doc_id': ..., 'url': ...} qrels = load_dataset('irds/wapo_v2_trec-news-2019', 'qrels') for record in qrels: record # {'query_id': ..., 'doc_id': ..., 'relevance': ..., 'iteration': ...} > 备注:调用`load_dataset`函数将下载该数据集(若数据集未公开,则会提供获取指引),并将数据转换为🤗 数据集格式。 ## 引用信息 @inproceedings{Soboroff2019News, title={TREC 2019 News Track Overview}, author={Ian Soboroff and Shudong Huang and Donna Harman}, booktitle={TREC}, year={2019} }
提供机构:
irds
原始信息汇总

数据集概述

数据集名称

wapo/v2/trec-news-2019

数据来源

ir-datasets 包提供。

数据内容

数据组件

  • queries (主题查询): 数量=60
  • qrels (相关性评估): 数量=15,655

数据使用示例

python from datasets import load_dataset

加载查询数据

queries = load_dataset(irds/wapo_v2_trec-news-2019, queries) for record in queries: record # {query_id: ..., doc_id: ..., url: ...}

加载相关性评估数据

qrels = load_dataset(irds/wapo_v2_trec-news-2019, qrels) for record in qrels: record # {query_id: ..., doc_id: ..., relevance: ..., iteration: ...}

引用信息

@inproceedings{Soboroff2019News, title={TREC 2019 News Track Overview}, author={Ian Soboroff and Shudong Huang and Donna Harman}, booktitle={TREC}, year={2019} }

搜集汇总
数据集介绍
main_image_url
构建方式
在信息检索领域,新闻数据集的构建对于评估检索系统的性能至关重要。irds/wapo_v2_trec-news-2019数据集源自TREC 2019新闻评测任务,依托华盛顿邮报语料库(Washington Post v2)构建而成。该数据集精心设计了60个查询主题(queries),并提供了15,655条相关性判断(qrels),每一对查询与文档之间的关联均经由专业标注人员依据严格标准评定,确保了数据在检索任务中的权威性与可靠性。
特点
该数据集的核心特点在于其规模适中而质量精良,既包含了丰富的新闻文档内容,又通过TREC评测框架保证了标注的一致性和准确性。查询主题覆盖多元新闻领域,能够有效模拟真实新闻检索场景。此外,qrels中的相关性评分采用多级标注体系,为细粒度评估检索模型性能提供了坚实支撑。这些特性使得该数据集成为新闻检索研究中不可或缺的基准资源。
使用方法
使用该数据集时,研究者可通过HuggingFace Datasets库便捷加载。具体而言,调用load_dataset函数并指定数据集名称'irds/wapo_v2_trec-news-2019',再通过'subset'参数选择'queries'或'qrels'子集即可获取相应数据。加载后的每条记录包含查询标识符、文档标识符及相关性标签等关键字段,可直接用于构建检索系统的训练、验证或测试流程。该接口设计简洁,便于快速集成到现有研究管线中。
背景与挑战
背景概述
在信息检索领域,新闻文本的时效性与相关性评估一直是研究的热点与难点。irds/wapo_v2_trec-news-2019数据集由美国国家标准与技术研究院(NIST)主导,源于TREC 2019新闻评测任务(News Track),主要研究人员包括Ian Soboroff、Shudong Huang和Donna Harman。该数据集以《华盛顿邮报》的新闻档案为基础,旨在探索大规模新闻语料下的检索与排序方法,尤其关注事件驱动的信息需求与长文档的关联性建模。其核心研究问题在于如何有效捕捉新闻内容中的动态语义变化,并评估检索系统在真实新闻场景中的表现。自发布以来,该数据集已成为新闻检索领域的重要基准,推动了基于深度学习的排序模型与上下文感知检索技术的发展。
当前挑战
该数据集所面临的挑战首先体现在领域问题的复杂性上:新闻文本具有高度时效性,查询往往围绕突发或持续事件展开,检索系统需同时处理语义匹配与时间维度上的相关性判断。此外,新闻语料包含多源异构信息,如标题、正文、元数据等,如何融合多模态特征以提升检索精度是一大难题。在构建过程中,数据集的标注规模有限(仅60个查询与15,655条相关性判断),导致模型训练面临稀疏性问题;同时,人工标注的可靠性受制于标注者主观认知差异,难以完全覆盖复杂查询下的多层次相关性。这些挑战共同制约了模型在真实新闻检索场景中的泛化能力与鲁棒性。
常用场景
经典使用场景
在信息检索与自然语言处理领域,该数据集作为TREC News Track 2019评测任务的官方语料,常被用于评估新闻文档检索系统的性能。研究者利用其包含的60个查询主题与15,655条相关性判断,构建并验证各类检索模型在复杂新闻文本环境中的有效性,尤其聚焦于跨时间、跨主题的新闻内容精准匹配与排序能力。
解决学术问题
该数据集解决了新闻检索领域中缺乏高质量、标准化评测基准的学术困境。通过提供人工标注的相关性判断,它使得研究者能够系统性地评估不同检索算法在新闻场景下的鲁棒性与泛化能力,推动了基于深度学习的语义匹配模型、伪相关反馈机制以及查询扩展策略的学术进步,为新闻信息检索的理论创新提供了坚实的实验基础。
衍生相关工作
该数据集衍生了一系列经典工作,包括TREC 2019 News Track的官方参赛系统以及后续基于BERT、T5等预训练模型的新闻检索改进方法。研究者还将其与TREC其他年份的新闻检索任务结合,构建了跨时间维度的检索基准,催生了面向新闻时效性的动态排序模型、多模态新闻理解框架等前沿研究,持续引领新闻信息检索领域的发展方向。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务