Atipico1/nq-test-replace-format
收藏Hugging Face2024-02-19 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/Atipico1/nq-test-replace-format
下载链接
链接失效反馈官方服务:
资源简介:
---
dataset_info:
features:
- name: question
dtype: string
- name: entity
dtype: string
- name: similar_entity
dtype: string
- name: answers
sequence: string
- name: ctxs
list:
- name: hasanswer
dtype: bool
- name: score
dtype: float64
- name: text
dtype: string
- name: title
dtype: string
- name: masked_query
dtype: string
- name: original_case
list:
- name: answer
dtype: string
- name: context
dtype: string
- name: distance
dtype: string
- name: original_answers
sequence: string
- name: question
dtype: string
- name: unans_case
list:
- name: answer
dtype: string
- name: answers
sequence: string
- name: context
dtype: string
- name: distance
dtype: string
- name: original_answers
sequence: string
- name: question
dtype: string
- name: conflict_case
list:
- name: answer
dtype: string
- name: conflict_context
dtype: string
- name: context
dtype: string
- name: distance
dtype: string
- name: original_answers
sequence: string
- name: question
dtype: string
- name: context
dtype: string
- name: context_vague
dtype: string
- name: entities
dtype: string
- name: entities_count
dtype: int64
- name: adv_sent
dtype: string
- name: adv_passage
dtype: string
- name: cos_sim
dtype: float64
- name: answer_match
dtype: bool
- name: is_valid_adversary
dtype: bool
- name: hasanswer
dtype: bool
- name: is_adversarial
dtype: bool
- name: prompt
dtype: string
splits:
- name: train
num_bytes: 70347010
num_examples: 3610
download_size: 41260388
dataset_size: 70347010
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
提供机构:
Atipico1原始信息汇总
数据集概述
数据集特征
- question: 问题,数据类型为字符串。
- entity: 实体,数据类型为字符串。
- similar_entity: 相似实体,数据类型为字符串。
- answers: 答案,数据类型为字符串序列。
- ctxs: 上下文列表,包含以下字段:
- hasanswer: 是否有答案,数据类型为布尔值。
- score: 分数,数据类型为浮点数(float64)。
- text: 文本,数据类型为字符串。
- title: 标题,数据类型为字符串。
- masked_query: 掩码查询,数据类型为字符串。
- original_case: 原始案例列表,包含以下字段:
- answer: 答案,数据类型为字符串。
- context: 上下文,数据类型为字符串。
- distance: 距离,数据类型为字符串。
- original_answers: 原始答案,数据类型为字符串序列。
- question: 问题,数据类型为字符串。
- unans_case: 无答案案例列表,包含以下字段:
- answer: 答案,数据类型为字符串。
- answers: 答案,数据类型为字符串序列。
- context: 上下文,数据类型为字符串。
- distance: 距离,数据类型为字符串。
- original_answers: 原始答案,数据类型为字符串序列。
- question: 问题,数据类型为字符串。
- conflict_case: 冲突案例列表,包含以下字段:
- answer: 答案,数据类型为字符串。
- conflict_context: 冲突上下文,数据类型为字符串。
- context: 上下文,数据类型为字符串。
- distance: 距离,数据类型为字符串。
- original_answers: 原始答案,数据类型为字符串序列。
- question: 问题,数据类型为字符串。
- context: 上下文,数据类型为字符串。
- context_vague: 模糊上下文,数据类型为字符串。
- entities: 实体,数据类型为字符串。
- entities_count: 实体计数,数据类型为整数(int64)。
- adv_sent: 对抗句子,数据类型为字符串。
- adv_passage: 对抗段落,数据类型为字符串。
- cos_sim: 余弦相似度,数据类型为浮点数(float64)。
- answer_match: 答案匹配,数据类型为布尔值。
- is_valid_adversary: 是否为有效对抗,数据类型为布尔值。
- hasanswer: 是否有答案,数据类型为布尔值。
- is_adversarial: 是否为对抗性,数据类型为布尔值。
- prompt: 提示,数据类型为字符串。
数据集分割
- train: 训练集,包含3610个样本,总字节数为70347010。
数据集大小
- 下载大小: 41260388字节。
- 数据集大小: 70347010字节。
配置
- default: 默认配置,包含训练集数据文件路径为
data/train-*。
搜集汇总
数据集介绍

构建方式
在自然语言处理领域,问答系统对实体级信息的精准检索与推理能力提出了严苛要求。Atipico1/nq-test-replace-format数据集基于Natural Questions语料库进行深度改造与增强构建,通过系统性地替换问题中的核心实体,生成具有对抗性质的查询样本。构建过程涵盖原始样本的筛选、实体替换策略的应用以及对抗性文本的生成,同时保留了原始上下文、答案及多维度标注信息,如实体相似度、答案匹配状态与对抗有效性标识,从而形成结构复杂、层次分明的数据集合。
特点
该数据集最显著的特征在于其丰富的对抗性与诊断性标注体系。每条样本不仅包含标准的问题、实体、答案及上下文字段,还额外引入了相似实体、掩码查询、原始案例与无答案案例、冲突案例等多重结构,使得模型在实体替换、模糊上下文及矛盾信息场景下的表现可被系统评估。此外,数据集存储了对抗性句子与段落、余弦相似度、实体计数及是否属于对抗样本等布尔标识,为鲁棒性分析提供了细粒度的量化依据。
使用方法
该数据集适用于训练与评估检索增强生成模型在实体级问答任务上的鲁棒性。用户可通过Hugging Face的datasets库加载默认配置,直接获取包含3610条训练样本的标准化数据。每条记录以字典形式提供,包含question、ctxs、masked_query、adv_sent等关键字段,便于快速构建对抗性测试流水线。研究者可借助is_adversarial与is_valid_adversary标签筛选有效对抗样本,结合cos_sim与answer_match字段进行模型脆弱性分析,或利用unans_case与conflict_case探究模型对缺失与矛盾信息的处理能力。
背景与挑战
背景概述
在开放域问答与信息检索领域,如何评估模型在复杂、对抗性场景下的鲁棒性,已成为一个前沿且紧迫的研究课题。Atipico1/nq-test-replace-format数据集正是在这一背景下应运而生,由相关研究团队基于自然问题(Natural Questions)语料库改造而成。该数据集的核心研究问题聚焦于构建包含实体替换、模糊上下文和对抗性干扰的问答实例,以系统性地测试模型对输入噪声与语义歧义的敏感度。其设计融合了精确匹配、对抗样本生成与多源上下文冲突等维度,为分析检索增强生成(RAG)系统的脆弱性提供了独特的基准。自发布以来,该数据集对推动问答系统在真实世界噪声环境中的稳健性评估产生了重要影响,成为研究信息检索与语言模型交互边界的关键资源。
当前挑战
该数据集所解决的领域挑战主要源于传统问答评估范式的局限性,即模型在标准数据集上表现优异,却难以应对实体歧义、上下文冲突或对抗性重写等现实干扰。具体而言,数据集中包含的实体替换与模糊查询,直指模型对命名实体与问题意图的鲁棒理解能力;而精心设计的对抗性段落与冲突案例,则考验模型在矛盾信息中甄别正确答案的推理稳定性。在构建过程中,研究者面临的核心挑战包括:如何在不破坏问题语义的前提下生成具有迷惑性的实体替换,如何平衡对抗样本的难度与自然性以避免引入人为噪声,以及如何确保多源上下文之间的冲突足够显著以触发模型的可靠性边界。这些挑战的克服,使得该数据集成为评估与改进问答系统鲁棒性的重要试金石。
常用场景
经典使用场景
在开放域问答与信息检索领域,Atipico1/nq-test-replace-format数据集为评估和提升检索增强生成(RAG)系统的鲁棒性提供了关键基准。其经典使用场景聚焦于对抗性样本的构造与测试,研究者利用该数据集中精心设计的实体替换、模糊上下文及冲突信息,模拟现实世界中用户提问时可能遭遇的噪声与歧义。通过对比模型在原始样本与对抗样本上的表现差异,能够系统性地检验问答系统对实体混淆、语境干扰及虚假线索的敏感程度,从而推动模型从“表面匹配”向“深层语义理解”的进化。
解决学术问题
该数据集直击当前大语言模型在知识检索与推理中面临的三大核心学术难题:实体歧义消解、上下文冲突处理以及无答案场景的拒答机制。传统问答数据集往往假设问题与上下文严格对应,而Atipico1/nq-test-replace-format通过引入相似实体替换、矛盾语境嵌入和未回答案例,迫使模型在信息不完整或相互矛盾时仍能做出可靠决策。这一设计填补了对抗性问答评测的空白,为研究模型何时应当“承认无知”而非“强行作答”提供了量化依据,深刻影响了可信AI与知识鲁棒性领域的理论发展。
衍生相关工作
围绕该数据集,学术界已衍生出一系列标志性研究。例如,基于其对抗样本设计框架,研究者提出了“对抗性上下文过滤”方法,通过注意力机制动态屏蔽冲突段落;另有多项工作利用数据集的实体替换特性,开发了跨实体泛化的知识增强训练策略,如实体级对抗训练(EAT)和语义扰动微调。此外,该数据集与RAG评估体系深度耦合,催生了如“检索鲁棒性排行榜”和“无答案检测挑战赛”等评测任务,促使后续工作如Self-RAG和Corrective RAG等模型在架构层面融入冲突消解模块,形成了从数据到算法的完整研究闭环。
以上内容由遇见数据集搜集并总结生成



