lmqg/qg_itquad

该数据集是SQuAD-it的一个修改版本，专门用于问题生成任务。由于原始数据集仅包含训练集和验证集，因此从训练集中手动抽取了测试集，以确保测试集与训练集在段落层面没有重叠。数据集的语言为意大利语，任务类型为文本生成，具体是问题生成。数据集的字段包括问题、段落、答案、句子等，并且有特殊的标记用于突出显示答案或包含答案的句子。This dataset is a modified version of SQuAD-it, specifically designed for the question generation task. Since the original SQuAD-it dataset only contains training and validation splits, a test split was manually extracted from the original training split to ensure no paragraph-level overlap exists between the test split and the training split. The dataset is in Italian, and its task category is text generation, specifically question generation. Its dataset fields include questions, paragraphs, answers, sentences and other relevant entries, with special tokens used to highlight either the target answer or the sentence containing the answer.

原始信息汇总

数据集概述

基本信息

• 数据集名称: SQuAD-it for question generation
• 许可证: cc-by-4.0
• 语言: 意大利语 (it)
• 多语言性: 单语种
• 大小: 10K<n<100K
• 源数据集: squad_es
• 任务类别: text-generation
• 任务ID: language-modeling
• 标签: question-generation

数据集描述

• 概述: 本数据集是QG-Bench的一个子集，专为问句生成任务设计。它是SQuAD-it的一个修改版本，特别从训练集中手动抽样出一个测试集，确保与训练集在段落层面无重叠。
• 支持的任务: 问句生成 (question-generation)
• 评估指标: BLEU4/METEOR/ROUGE-L/BERTScore/MoverScore

数据集结构

• 数据字段:
  • question: 字符串类型
  • paragraph: 字符串类型
  • answer: 字符串类型
  • sentence: 字符串类型
  • paragraph_answer: 字符串类型，答案通过特殊标记<hl>高亮
  • paragraph_sentence: 字符串类型，包含答案的句子通过特殊标记<hl>高亮
  • sentence_answer: 字符串类型，答案通过特殊标记<hl>高亮
• 数据分割:
  • train: 46550条记录
  • validation: 7609条记录
  • test: 7609条记录

引用信息

@inproceedings{ushio-etal-2022-generative, title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration", author = "Ushio, Asahi and Alva-Manchego, Fernando and Camacho-Collados, Jose", booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing", month = dec, year = "2022", address = "Abu Dhabi, U.A.E.", publisher = "Association for Computational Linguistics", }

搜集汇总

数据集介绍

构建方式

lmqg/qg_itquad数据集源自意大利语问答数据集SQuAD-it，专为问题生成任务而设计。作为QG-Bench统一基准的子集，该数据集在原始训练集和验证集基础上，通过从训练集中手动采样与训练段落无重叠的样本构建测试集，确保了数据划分的独立性与评估的公平性。每个样本包含段落、句子、答案及多种标注形式，如高亮答案或句子的段落变体，为模型提供丰富的上下文信息。

特点

该数据集的核心特点在于其多层次的标注结构，支持答案感知与句子感知两种问题生成模式。通过<sentence_answer>、<paragraph_answer>和<paragraph_sentence>字段，研究者可灵活选择输入信息，涵盖从局部答案到全局段落的粒度。数据集规模适中，训练集含46,550条样本，验证与测试集各7,609条，平衡了数据丰富性与计算效率。其意大利语单语特性填补了非英语问题生成资源的空白。

使用方法

使用该数据集时，研究者可直接加载HuggingFace上的lmqg/qg_itquad，通过<paragraph_answer>、<sentence_answer>或<paragraph_sentence>字段作为模型输入，以生成对应的问题。推荐采用序列到序列框架进行训练，并利用BLEU、METEOR、ROUGE-L等指标评估生成质量。数据集支持预训练语言模型的微调，特别适用于段落级问题生成的对比实验与基准测试。

背景与挑战

背景概述

在自然语言处理领域，问题生成（Question Generation, QG）是一项旨在从给定文本中自动生成合理问题的关键任务，其应用广泛涉及教育评估、对话系统与信息检索等场景。为填补意大利语在该方向上的资源空白，Asahi Ushio 等人于2022年构建了lmqg/qg_itquad数据集，作为统一问题生成基准QG-Bench的组成部分，相关成果发表于EMNLP 2022主会。该数据集基于SQuAD-it进行改造，由46550条训练样本、7609条验证样本与7609条测试样本构成，覆盖意大利语单语场景，并通过引入特殊标记<hl>实现答案感知与句子感知的多样化生成范式，为多语言问题生成研究提供了重要的非英语评估资源。

当前挑战

该数据集所应对的领域挑战在于意大利语问题生成任务的低资源困境：相比于英语SQuAD等大规模数据集，意大利语在高质量问答对与段落级标注上严重匮乏，限制了多语言生成模型的泛化能力。构建过程中面临的核心挑战包括：原始SQuAD-it仅提供训练与验证集，缺乏独立测试集，研究者需从训练集中手工采样测试样本，并严格确保段落层面不与训练集重叠，以避免数据泄露对评估公平性的影响；同时，需设计多字段结构（如paragraph_answer、sentence_answer）以支持不同粒度的生成条件，这对标注一致性提出了较高要求，且增加了预处理复杂度。

常用场景

经典使用场景

lmqg/qg_itquad 数据集专为意大利语段落级问题生成任务而设计，是 QG-Bench 统一基准的核心组成部分。其经典使用场景在于利用给定的上下文段落与答案标注，训练生成式语言模型自动构建与文本内容高度相关的问题。数据集中提供了多种标注形式，如段落级答案高亮与句子级答案高亮，从而支持答案感知与句子感知两种问题生成范式。研究者通常基于该数据集评估模型在 BLEU、METEOR、ROUGE-L 等自动指标上的表现，以验证生成问题的语义准确性与语言流畅性。

衍生相关工作

该数据集的发布催生了一系列经典工作，包括基于 T5、BART 等预训练语言模型的意大利语问题生成微调研究，以及针对生成问题多样性控制的对比实验。后续研究者还将其与 QG-Bench 中的其他语言子集结合，开展了跨语言问题生成能力迁移的分析。此外，基于该数据集的段落感知标注设计，衍生出融合答案位置编码与句子边界信息的改进模型架构，进一步提升了生成问题与上下文语义的一致性。

数据集最近研究

最新研究方向

在自然语言处理领域，问题生成（Question Generation, QG）作为一项前沿任务，旨在从文本中自动生成有意义的问句，广泛应用于智能教育、对话系统和信息检索。lmqg/qg_itquad数据集作为意大利语问题生成的基准资源，其最新研究聚焦于利用生成式语言模型实现段落级问题生成。该数据集源自SQuAD-it的改进版本，通过精心划分训练、验证和测试集，确保了段落层面的无重叠采样，为模型评估提供了严谨的框架。当前热点方向包括结合答案感知和句子感知的生成策略，通过特殊标记<hl>突出关键信息，以提升生成问题的准确性和上下文相关性。这一工作不仅推动了多语言问题生成技术的发展，也为意大利语自然语言处理研究提供了重要支撑，其统一基准QG-Bench的建立，为后续模型性能比较和跨语言迁移学习奠定了坚实基础，具有显著的学术意义和应用价值。