lmqg/qg_squadshifts

这是QG-Bench的一个子集，QG-Bench是一个统一的问题生成基准，提出于论文《Generative Language Models for Paragraph-Level Question Generation: A Unified Benchmark and Evaluation, EMNLP 2022 main conference》。该数据集是基于SQuADShifts修改的，专门用于问题生成任务。数据集包含多个字段，如问题、段落、答案等，并且这些字段在所有分割中都相同。数据集支持的任务是问题生成，成功通常通过BLEU4/METEOR/ROUGE-L/BERTScore/MoverScore等指标来衡量。数据集的语言是英语，并且提供了数据分割的详细信息。

原始信息汇总

数据集概述

基本信息

• 许可证: cc-by-4.0
• 数据集名称: SubjQA for question generation
• 语言: 英语 (en)
• 多语言性: 单语种
• 数据集大小: 10K<n<100K
• 源数据集: subjqa

任务与标签

• 任务类别: 文本生成
• 任务ID: 语言建模
• 标签: question-generation

数据集描述

• 数据集总结: 该数据集是QG-Bench的一部分，用于段落级问题生成任务。它是SQuADShifts的修改版本，专门用于问题生成任务。
• 支持的任务与评估指标:
  • 任务: 问题生成
  • 评估指标: BLEU4/METEOR/ROUGE-L/BERTScore/MoverScore

数据集结构

• 数据字段:
  • question: 字符串类型
  • paragraph: 字符串类型
  • answer: 字符串类型
  • sentence: 字符串类型
  • paragraph_answer: 字符串类型，答案部分用特殊标记<hl>高亮
  • paragraph_sentence: 字符串类型，包含答案的句子用特殊标记<hl>高亮
  • sentence_answer: 字符串类型，答案部分用特殊标记<hl>高亮
• 数据分割:
  • train, valid, test
  • 不同子集: amazon, new_wiki, nyt, reddit

引用信息

@inproceedings{ushio-etal-2022-generative, title = "{G}enerative {L}anguage {M}odels for {P}aragraph-{L}evel {Q}uestion {G}eneration", author = "Ushio, Asahi and Alva-Manchego, Fernando and Camacho-Collados, Jose", booktitle = "Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing", month = dec, year = "2022", address = "Abu Dhabi, U.A.E.", publisher = "Association for Computational Linguistics", }