GeAR

GeAR数据集由微软公司创建，旨在支持生成增强检索（GeAR）模型的训练。该数据集包含580万条数据，主要用于问题回答检索（QAR）和相关信息检索（RIR）任务。数据来源于高质量维基百科文档，通过大语言模型（LLM）生成查询和文档的细粒度信息单元，并经过去重和相关性过滤处理。数据集的应用领域包括文档检索、细粒度信息定位和信息生成，旨在提升检索系统对复杂文本的细粒度语义理解能力。

搜集汇总

数据集介绍

构建方式

GeAR数据集的构建采用了基于大语言模型（LLM）的高效数据合成管道。首先，从高质量的维基百科文档中筛选出合适的句子作为信息单元，随后利用LLM将这些句子重写为查询。通过去重和相关度过滤，最终生成了580万条高质量的（查询-文档-信息）三元组数据。这一过程确保了数据的多样性和相关性，为模型训练提供了坚实的基础。

特点

GeAR数据集的特点在于其能够同时支持文档检索和细粒度信息定位任务。通过引入生成任务，GeAR不仅能够检索相关文档，还能生成与查询相关的细粒度信息，从而增强了对文本的深度理解。此外，GeAR在推理过程中保持了双编码器的高效性，无需增加额外的计算负担，适用于多种检索场景。

使用方法

GeAR数据集的使用方法灵活多样。在文档检索任务中，用户可以利用双编码器部分计算查询与文档的相似度，与传统检索方法一致。在细粒度信息定位任务中，融合编码器通过交叉注意力机制计算查询与文档的融合嵌入，从而定位文档中最相关的信息单元。此外，GeAR还支持信息生成任务，用户可以通过文本解码器生成与查询和文档相关的辅助信息，帮助理解检索结果。

背景与挑战

背景概述

GeAR（Generation Augmented Retrieval）数据集由微软的研究团队于2025年提出，旨在解决传统文档检索系统中存在的语义信息不足和细粒度理解缺失的问题。传统双编码器模型虽然能够通过计算查询与文档之间的语义相似度进行检索，但其全局语义的局限性使得细粒度信息的定位变得困难。GeAR通过引入融合编码器和文本解码器，能够在检索过程中生成与查询相关的细粒度文本，从而增强模型对文档内容的理解能力。该数据集的提出为信息检索领域带来了新的视角，尤其在开放域问答、检索增强生成等任务中展现了显著的应用潜力。

当前挑战

GeAR数据集的构建和应用面临多重挑战。首先，传统检索模型依赖于标量相似度计算，难以捕捉查询与文档之间的复杂语义关系，尤其是在处理长文档时，细粒度信息的定位成为一大难题。其次，数据集的构建过程中，如何高效合成高质量的（查询-文档-信息）三元组数据是一个关键挑战，现有公开数据集往往无法满足这一需求。此外，模型训练过程中需要平衡检索任务与生成任务的训练目标，如何在保持检索性能的同时提升细粒度信息生成能力，仍需进一步探索。这些挑战不仅影响了模型的性能优化，也对数据集的扩展和应用提出了更高的要求。

常用场景

经典使用场景

GeAR数据集在文档检索和信息定位任务中展现了其经典应用场景。通过结合生成式模型与检索模型，GeAR不仅能够高效检索与查询相关的文档，还能精确定位文档中的细粒度信息单元，如句子或段落。这种能力在开放域问答系统、信息检索增强生成（RAG）以及语义理解任务中尤为重要。GeAR通过融合查询与文档的表示，生成与查询相关的文本，从而增强了对检索结果的理解和解释能力。

解决学术问题

GeAR数据集解决了传统双编码器检索模型在细粒度语义理解上的不足。传统方法通常将查询与文档的语义关系映射为标量相似度，难以捕捉复杂的语义关联。GeAR通过引入生成任务，增强了模型对文档中细粒度信息的定位能力，同时保持了检索效率。这一创新为信息检索领域提供了新的研究方向，尤其是在长文档处理和复杂语义理解任务中具有重要意义。

衍生相关工作

GeAR数据集的提出催生了一系列相关研究工作，特别是在检索增强生成（RAG）和细粒度信息定位领域。基于GeAR的框架，研究者们进一步探索了多模态检索、长文档处理以及跨语言检索等方向。例如，一些研究通过扩展GeAR的上下文长度，提升了其在长文档检索中的表现。此外，GeAR的生成能力也启发了更多关于生成式检索模型的研究，推动了自然语言理解与生成的统一范式发展。