lmqg/qg_zhquad

这是一个用于问题生成任务的数据集，是QG-Bench的一部分，基于Chinese SQuAD的修改版本。原始数据集仅包含训练/验证集，因此从训练集中手动采样了测试集，确保在段落层面与训练集无重叠。数据集包含多个字段，如问题、段落、答案、句子等，每个字段都用于训练不同的问题生成模型。数据集支持的问题生成任务通常通过BLEU4/METEOR/ROUGE-L/BERTScore/MoverScore等指标来衡量成功。This is a dataset for the question generation task, which is part of QG-Bench and based on a modified version of Chinese SQuAD. The original dataset only contained train/validation sets, so the test set was manually sampled from the training set to ensure no passage-level overlap with the training set. This dataset includes multiple fields such as questions, passages, answers, sentences, etc., each of which is used to train different question generation models. The question generation tasks supported by this dataset are typically evaluated for performance using metrics such as BLEU4, METEOR, ROUGE-L, BERTScore, and MoverScore.

原始信息汇总

数据集卡片 "lmqg/qg_zhquad"

数据集描述

• 数据集名称: Chinese SQuAD for question generation
• 许可证: cc-by-4.0
• 语言: 中文
• 多语言性: 单语种
• 数据集大小: 10K<n<100K
• 任务类别:
  • 文本生成
• 任务ID:
  • 语言建模
• 标签:
  • 问题生成

数据集概述

该数据集是 QG-Bench 的一个子集，QG-Bench 是一个统一的问题生成基准，提出于 "Generative Language Models for Paragraph-Level Question Generation: A Unified Benchmark and Evaluation, EMNLP 2022 main conference"。这是 Chinese SQuAD 的一个修改版本，用于问题生成（QG）任务。由于原始数据集仅包含训练/验证集，我们从训练集中手动采样测试集，测试集与训练集在段落方面没有重叠。

支持的任务和排行榜

• 问题生成: 该数据集用于训练问题生成模型。任务的成功通常通过实现高 BLEU4/METEOR/ROUGE-L/BERTScore/MoverScore 来衡量（详见我们的论文）。

语言

意大利语 (it)

数据集结构

数据字段在所有拆分中相同。

• question: 一个 string 特征。
• paragraph: 一个 string 特征。
• answer: 一个 string 特征。
• sentence: 一个 string 特征。
• paragraph_answer: 一个 string 特征，与段落相同，但答案由特殊标记 <hl> 突出显示。
• paragraph_sentence: 一个 string 特征，与段落相同，但包含答案的句子由特殊标记 <hl> 突出显示。
• sentence_answer: 一个 string 特征，与句子相同，但答案由特殊标记 <hl> 突出显示。

每个 paragraph_answer, paragraph_sentence, 和 sentence_answer 特征用于训练问题生成模型，但具有不同的信息。paragraph_answer 和 sentence_answer 特征用于答案感知问题生成，而 paragraph_sentence 特征用于句子感知问题生成。

数据拆分

训练集	验证集	测试集
59977	8236	8236

引用信息

@inproceedings{ushio-etal-2022-generative, title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration", author = "Ushio, Asahi and Alva-Manchego, Fernando and Camacho-Collados, Jose", booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing", month = dec, year = "2022", address = "Abu Dhabi, U.A.E.", publisher = "Association for Computational Linguistics", }

搜集汇总

数据集介绍

构建方式

在自然语言处理领域，问题生成（Question Generation）是提升机器阅读理解能力的关键任务之一。lmqg/qg_zhquad数据集是基于中文SQuAD（Chinese SQuAD）改造而成的专用问题生成数据集。其构建过程严谨而富有创新：原始中文SQuAD仅包含训练集和验证集，为满足问题生成任务对测试集的需求，研究者从训练集中手动采样出与训练集段落无重叠的测试样本，确保了数据划分的独立性与评估的公正性。此外，数据集引入了多种标注变体，如通过特殊标记<hl>高亮答案或包含答案的句子，从而支持答案感知与句子感知两种问题生成模式，为模型训练提供了丰富的输入形式。

使用方法

使用该数据集进行模型训练时，研究者可根据任务需求选择不同的输入特征。对于答案感知问题生成，可采用paragraph_answer或sentence_answer字段，将高亮答案的段落或句子作为输入；对于句子感知生成，则使用paragraph_sentence字段，指示模型关注包含答案的句子。数据加载可通过Hugging Face的datasets库直接调用，例如使用load_dataset('lmqg/qg_zhquad', trust_remote_code=True)获取各数据分片。训练时应以paragraph为上下文，question为目标输出，并利用提供的验证集进行超参数调优。最终模型性能可通过计算生成问题与参考问题之间的BLEU、METEOR等指标进行量化评估。

背景与挑战

背景概述

在自然语言处理领域，问题生成（Question Generation, QG）旨在根据给定文本自动生成合理且相关的问题，这一任务对于智能教育、对话系统与信息检索等应用具有重要价值。lmqg/qg_zhquad数据集由Asahi Ushio等人于2022年创建，源自EMNLP 2022主会论文《Generative Language Models for Paragraph-Level Question Generation: A Unified Benchmark and Evaluation》，研究机构涵盖多个国际知名实验室。该数据集是QG-Bench基准的子集，基于中文SQuAD（Chinese SQuAD）改造而来，专门用于段落级问题生成任务。核心研究问题在于评估生成式语言模型在中文场景下从段落中生成问题的能力，其影响力体现在为中文问题生成提供了统一、标准化的评测基准，填补了该领域中文资源的空白。

当前挑战

lmqg/qg_zhquad数据集所面临的挑战可从两个层面阐述。在领域问题层面，问题生成任务本身需克服语义理解与语言生成的鸿沟，模型需从段落中精准定位关键信息并生成语法正确、逻辑连贯的问题，尤其中文的句法灵活性与多义性增加了难度。在数据集构建层面，原始Chinese SQuAD仅包含训练集和验证集，缺乏测试集，构建者需从训练集中手动采样与训练段落无重叠的测试集，这一过程需确保数据分布一致性与公平性，避免引入偏差。此外，数据集需提供多种标注形式（如答案感知、句子感知），以支持不同生成策略，这增加了标注复杂性与质量控制难度。

常用场景

经典使用场景

lmqg/qg_zhquad数据集是中文问答生成领域的标杆性资源，其核心应用场景在于训练和评估段落级问题生成模型。该数据集源自中文SQuAD，经过精心改造，为每段文本配备了答案标注和多种上下文提示格式，如高亮答案的段落或句子。研究者常利用其训练模型从给定文本中自动生成与答案相关的问题，从而推动自然语言理解与生成技术的深度融合。

解决学术问题

该数据集直面中文问题生成中数据稀缺与评估标准不统一的学术困境。通过提供大规模、高质量的问答对，它解决了从非结构化文本中自动构造问题的挑战，尤其聚焦于答案感知与句子感知两种生成范式。其意义在于为段落级问题生成设立了统一的基准，促进了跨模型性能的公平比较，并为中文阅读理解、对话系统等下游任务提供了关键支撑。

实际应用

在实际应用中，lmqg/qg_zhquad数据集赋能了智能教育领域的自动习题生成、虚拟助手的交互式问答以及文档检索系统的查询扩展。例如，教育平台可借助该数据集训练的模型，从教材段落中自动生成练习题，减轻教师负担；智能客服系统则能基于用户手册动态构建问题，提升服务效率与用户体验。

数据集最近研究

最新研究方向

在自然语言处理领域，问题生成任务正逐渐成为提升机器阅读理解与交互式问答系统能力的关键前沿方向。lmqg/qg_zhquad数据集作为中文段落级问题生成的基准资源，其基于Chinese SQuAD的改进版本，通过精心划分训练、验证与测试集，为研究者提供了标准化评估框架。当前研究热点聚焦于利用生成式语言模型（如T5、BART）进行答案感知与句子感知的问题生成，结合BLEU、METEOR、ROUGE-L及BERTScore等多维度自动评估指标，推动模型在复杂段落中精准定位信息并生成连贯问题的能力。该数据集的发布不仅填补了中文问题生成领域统一基准的空白，还通过开源仓库与EMNLP 2022论文的关联，促进了跨语言与多任务学习的探索，对智能教育、信息检索等应用场景具有重要影响。