ibm/Wish-QA-Falcon

---
dataset_info:
features:
- name: 'Unnamed: 0'
dtype: int64
- name: title
dtype: string
- name: document_id
dtype: string
- name: document_url
dtype: string
- name: passage_id
dtype: int64
- name: passage_title
dtype: string
- name: text
dtype: string
- name: qa
dtype: string
- name: question
dtype: string
- name: answer
dtype: string
- name: doc_score
dtype: float64
- name: score_qa
dtype: float64
- name: ans_num_words
dtype: int64
- name: text_num_words
dtype: int64
- name: text_longer_1.5
dtype: int64
- name: odd_question
dtype: bool
splits:
- name: train
num_bytes: 17858882
num_examples: 10791
download_size: 9299253
dataset_size: 17858882
---
# Dataset Card for "Wish-QA-Falcon"

[More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

数据集信息：
特征：
- 名称：Unnamed: 0（未命名列0），数据类型：int64
- 名称：title（标题），数据类型：字符串
- 名称：document_id（文档ID），数据类型：字符串
- 名称：document_url（文档URL），数据类型：字符串
- 名称：passage_id（段落ID），数据类型：int64
- 名称：passage_title（段落标题），数据类型：字符串
- 名称：text（文本），数据类型：字符串
- 名称：qa（问答对，QA），数据类型：字符串
- 名称：question（问题），数据类型：字符串
- 名称：answer（答案），数据类型：字符串
- 名称：doc_score（文档得分），数据类型：float64
- 名称：score_qa（问答得分），数据类型：float64
- 名称：ans_num_words（答案单词数），数据类型：int64
- 名称：text_num_words（文本单词数），数据类型：int64
- 名称：text_longer_1.5，数据类型：int64
- 名称：odd_question（异常问题），数据类型：布尔值
数据集划分：
- 名称：train（训练集），字节占用量：17858882，样本数量：10791
下载大小：9299253
数据集总大小：17858882

# "Wish-QA-Falcon"数据集卡片
[需补充更多信息](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

原始信息汇总

数据集概述

数据集信息

特征

• Unnamed: 0: 数据类型为 int64
• title: 数据类型为 string
• document_id: 数据类型为 string
• document_url: 数据类型为 string
• passage_id: 数据类型为 int64
• passage_title: 数据类型为 string
• text: 数据类型为 string
• qa: 数据类型为 string
• question: 数据类型为 string
• answer: 数据类型为 string
• doc_score: 数据类型为 float64
• score_qa: 数据类型为 float64
• ans_num_words: 数据类型为 int64
• text_num_words: 数据类型为 int64
• text_longer_1.5: 数据类型为 int64
• odd_question: 数据类型为 bool

数据分割

• train: 包含 10791 个样本，总字节数为 17858882

数据集大小

• 下载大小: 9299253 字节
• 数据集大小: 17858882 字节

搜集汇总

数据集介绍

构建方式

在自然语言处理领域，高质量的问答数据集对于推动机器阅读理解技术的发展至关重要。ibm/Wish-QA-Falcon数据集源自IBM的研究成果，其构建过程严谨而系统。该数据集基于维基百科文档，通过自动化的流水线从文档段落中提取候选问答对，并利用Falcon模型进行质量筛选与增强。具体而言，数据集的每条记录包含文档标题、唯一标识符、URL、段落标题、原文文本、问题、答案以及多个评估指标，如文档相关性得分、问答质量得分、答案与文本长度等。最终，经过严格过滤，数据集保留了10,791条训练样本，确保了问答对的高质量和领域覆盖度。

特点

该数据集呈现出若干显著特点。首先，其内容丰富多元，涵盖多个领域的知识，且每条样本均附带详尽的元数据，如文档来源、段落标题及文本长度，便于研究者进行细粒度分析。其次，数据集内置了多项质量评估指标，包括doc_score和score_qa，这些分数能够有效反映文档与问答对的相关性和准确性，为模型训练提供了可靠的监督信号。此外，数据集还包含odd_question布尔字段，用于标记异常问题，增强了数据集的鲁棒性和实用性。这些特性共同使得Wish-QA-Falcon在开放域问答任务中展现出卓越的适用性。

使用方法

在实际应用中，研究者可便捷地通过HuggingFace的datasets库加载该数据集。使用load_dataset('ibm/Wish-QA-Falcon', split='train')即可获取训练集，每条样本以字典形式呈现，包含question、answer、text等关键字段。对于问答系统的微调，可直接将question字段作为模型输入，answer字段作为目标输出，利用text字段提供的上下文进行检索增强生成。同时，借助score_qa和doc_score等元数据，可对训练样本进行加权或筛选，以优化模型性能。建议在使用前对字段进行预处理，如清理文本中的特殊字符，并合理利用ans_num_words等统计信息控制输出长度。

背景与挑战

背景概述

在自然语言处理领域，问答系统的构建长期受限于高质量、大规模且领域适配性强的数据集匮乏。ibm/Wish-QA-Falcon数据集由IBM研究团队于近年创建，旨在解决开放域问答中语义理解与答案抽取的精度问题。该数据集基于Falcon模型架构优化，融合了文档检索、段落评分与问答对生成等多维特征，核心研究问题聚焦于如何利用弱监督信号提升模型在复杂文本中的推理能力。其影响力体现在为工业级问答系统提供了可复现的基准，尤其在知识密集型场景中推动了从检索到生成的端到端性能突破。

当前挑战

当前该数据集面临的核心挑战包括：其一，领域问题层面，开放域问答中长文本的语义歧义与多跳推理需求尚未被充分满足，现有模型在跨段落信息整合时易产生逻辑断裂；其二，构建过程中，数据标注依赖自动生成的问答对，存在噪声与答案不完整性问题，如'odd_question'字段揭示的异常查询需人工校验；此外，文档评分与问答评分的双阈值校准机制在跨领域迁移时泛化能力不足，导致低资源场景下的性能衰减显著，亟需更鲁棒的弱监督信号设计策略。

常用场景

经典使用场景

Wish-QA-Falcon数据集作为一款融合了维基百科知识与大型语言模型生成能力的问答数据集，其最经典的使用场景在于训练和评估开放域问答系统。该数据集包含超过一万条精心构造的问答对，每个问题均源自维基百科段落，并由Falcon模型生成答案，辅以人工过滤与质量评分。研究者可借助此数据集构建能够从海量文本中精准检索并生成答案的模型，尤其适用于验证检索增强生成（RAG）范式的有效性。数据集中的文档评分与问答评分机制，为模型性能的量化分析提供了可靠基准，使其成为开放域问答领域不可或缺的测试平台。

解决学术问题

该数据集着力解决了传统问答数据集中答案来源单一、质量参差不齐的学术难题。通过结合结构化维基百科文档与大型语言模型的生成能力，Wish-QA-Falcon有效弥合了事实性知识与自然语言生成之间的鸿沟。它助力研究者深入探究模型在复杂推理、跨段落信息整合以及答案忠实度等方面的表现，尤其为评估生成式问答系统在事实一致性上的瓶颈提供了关键数据支撑。其引入的异常问题检测机制（odd_question字段）进一步推动了对于模型鲁棒性与幻觉现象的量化研究，对提升问答系统的可信度具有深远意义。

衍生相关工作

Wish-QA-Falcon数据集催生了一系列关于检索增强生成与模型校准的经典工作。许多研究以其为基准，探索了不同检索策略（如稀疏检索与密集检索）对生成质量的影响，并推动了混合检索范式的发展。同时，基于该数据集的异常问题检测标签，衍生出了针对大模型幻觉检测与答案一致性评估的专项研究。部分工作还利用其文档评分与问答评分，构建了多任务学习框架，同时优化检索相关性、答案流畅性与事实准确性，为下一代开放域问答系统的设计奠定了理论与实践基础。