SUMMSCREEN
收藏arXiv2022-06-07 更新2024-06-21 收录
下载链接:
https://github.com/mingdachen/SummScreen
下载链接
链接失效反馈官方服务:
资源简介:
SUMMSCREEN是一个包含电视剧剧本转录和人工编写的摘要对的数据集。该数据集挑战性在于剧本中的情节细节通常通过角色对话间接表达,并散布在整个转录中。数据集旨在通过整合这些细节来形成简洁的情节描述,同时处理剧本中与主线无关的内容,如角色发展和幽默元素。此外,数据集还提出了两种以实体为中心的评估指标,用于评估生成的情节摘要的质量。SUMMSCREEN适用于训练和评估抽象摘要模型,特别是在处理长篇叙事文本和多角色对话方面。
SUMMSCREEN is a dataset comprising pairs of television series script transcripts and human-written summaries. The key challenge of this dataset is that plot details within the scripts are typically indirectly expressed via character dialogues and dispersed throughout the entire transcripts. The dataset aims to integrate these details to generate concise plot descriptions, while also handling content irrelevant to the main storyline in the scripts, such as character development and humorous elements. Furthermore, the dataset proposes two entity-centric evaluation metrics for assessing the quality of generated plot summaries. SUMMSCREEN is suitable for training and evaluating abstractive summarization models, particularly for scenarios involving long-form narrative texts and multi-character dialogues.
提供机构:
丰田技术学院芝加哥分校创建时间:
2021-04-15
搜集汇总
数据集介绍

构建方式
SUMMSCREEN数据集源自两大电视剧本社区——The TV MegaSite(TMS)与ForeverDreaming(FD),通过收集剧集对白文本及其对应的人工撰写的剧情摘要构建而成。为确保数据质量,研究团队设定了双重筛选标准:首先,摘要中出现的角色与剧本中角色的重合率需高于85%,以保障文本对齐的准确性;其次,每条剧本中含有说话人信息的行数须超过100行,从而剔除缺乏角色标注的字幕类文本。最终,数据集涵盖98部电视剧、超过26,000个剧集样本,并依据来源差异将FD与TMS视为独立子集,分别按约10:1:1的比例划分为训练、验证与测试集。
特点
SUMMSCREEN呈现出显著的抽象性与挑战性。其剧情信息常隐含于角色对话之中,需跨越多条对白进行整合推断,且剧本中存在大量与主线无关的角色发展或幽默内容,这些信息在摘要中往往被省略。此外,数据集以角色为核心,平均每集包含28.3个不同说话人,远高于其他对话摘要数据集,并支持多线索并行叙事的处理。为评估模型对角色及角色关系的捕捉能力,研究者提出了基于角色集合与角色共现关系的实体中心评价指标,从而更全面地衡量摘要的忠实度。
使用方法
SUMMSCREEN适用于抽象式摘要模型的训练与评估,尤其适合长文本、多说话人对话场景。研究者采用Longformer作为编码器,通过为每行对白添加[EOS]标记并仅将这些标记的隐状态输入解码器,以应对超长输入。此外,数据集支持基于最近邻检索的混合模型,例如利用BM25或ROUGE分数从剧本中提取关键内容,再交由BART等预训练模型生成摘要。实验表明,改进内容选择器是提升模型性能的关键方向,而实体中心指标则为评估生成摘要的角色准确性提供了独特视角。
背景与挑战
背景概述
在自然语言处理领域,抽象式摘要生成旨在从源文档中凝练出核心信息,而非简单摘取原文片段。然而,现有数据集多集中于新闻、论坛或会议等结构化文本,针对叙事性文本的摘要研究却相对匮乏。叙事文本以角色对话和情节发展为核心,其信息往往隐含于对话之中,而非直接陈述。为填补这一空白,Mingda Chen等研究人员于2021年构建了SUMMSCREEN数据集,该数据集收录了来自ForeverDreaming和TV MegaSite两个来源的电视剧本与人工撰写的剧情摘要,涵盖88部剧集、超过26000个实例。该数据集由丰田工业大学芝加哥分校和杜克大学联合发布,其核心研究问题在于如何从多角色、多线索的长篇对话中提取并整合分散的情节信息,生成忠实于原剧情的抽象式摘要。SUMMSCREEN的提出为叙事文本摘要研究提供了全新的基准,推动了对话理解与生成技术的交叉发展。
当前挑战
SUMMSCREEN所面临的挑战主要体现在两个层面。在领域问题层面,电视剧本中的情节细节常通过角色对话间接表达,而非直接陈述,要求模型具备深层语义理解能力,从看似无关的闲聊中推断出关键事件。此外,剧本中大量内容服务于角色塑造或幽默效果,与主线情节无关,模型需精准区分主次信息。在构建过程中,由于不同来源的剧本与摘要风格迥异——如ForeverDreaming的剧本更长且包含场景描述,而TV MegaSite的摘要更为详尽——数据对齐与清洗成为难题。研究团队通过设定角色重叠率阈值(85%)和对话行数下限(100行)来保证数据质量,但跨资源迁移学习仍面临性能下降的挑战,表明模型在适应多样化写作风格时存在局限。
常用场景
经典使用场景
SUMMSCREEN数据集专为抽象式剧本摘要生成而设计,其核心应用场景在于从电视剧本的长篇对话文本中自动提炼出精炼的情节概要。该数据集由电视剧本与人工撰写的剧情回顾组成,为自然语言处理领域提供了一个极具挑战性的测试平台。由于剧情细节往往隐含在角色对话之中,且常散布于整个剧本的各个角落,模型需要具备跨段落的信息整合能力,方能生成连贯且准确的摘要。这一特性使得SUMMSCREEN成为评估和推动长文本抽象式摘要模型发展的经典基准。
解决学术问题
该数据集有效解决了学术研究中长文本对话摘要生成的若干关键难题,尤其是如何从以角色对话为核心、包含大量非核心情节内容(如角色塑造与幽默元素)的剧本中,精准识别并提取关键剧情事件。SUMMSCREEN揭示了现有神经摘要模型在内容选择与长距离依赖建模上的局限性,推动了针对剧本叙事结构的理解研究。其提出的基于角色的评估指标,为衡量摘要中实体与关系保留的完整性提供了新范式,对提升摘要的忠实度与信息密度具有深远意义。
衍生相关工作
SUMMSCREEN的发布催生了多项后续研究工作,尤其在长文本摘要与内容选择领域。基于该数据集,研究者提出了混合模型,将最近邻检索作为内容选择器与神经抽象式模型相结合,显著提升了摘要中角色提及的准确性与事件描述的忠实度。此外,针对剧本中角色关系复杂、多情节并行的特点,后续工作探索了基于实体感知的注意力机制与图神经网络,以增强模型对叙事结构的建模能力。这些衍生工作不仅深化了对剧本语言的理解,也为其他长文本摘要任务(如会议记录与书籍摘要)提供了方法论借鉴。
以上内容由遇见数据集搜集并总结生成



