d0rj/samsum-ru
收藏Hugging Face2023-05-13 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/d0rj/samsum-ru
下载链接
链接失效反馈官方服务:
资源简介:
SAMSum Corpus (ru) 数据集是通过将原始的SAMSum数据集从英语翻译成俄语而创建的,使用了Google翻译工具。该数据集主要用于对话摘要任务,包含对话文本和人工编写的摘要。数据集的结构包括三个主要字段:对话文本、摘要和唯一文件ID。数据集分为训练集、验证集和测试集,分别包含14731、818和819个样本。数据集的许可证为非商业用途的CC BY-NC-ND 4.0。
SAMSum Corpus (ru) 数据集是通过将原始的SAMSum数据集从英语翻译成俄语而创建的,使用了Google翻译工具。该数据集主要用于对话摘要任务,包含对话文本和人工编写的摘要。数据集的结构包括三个主要字段:对话文本、摘要和唯一文件ID。数据集分为训练集、验证集和测试集,分别包含14731、818和819个样本。数据集的许可证为非商业用途的CC BY-NC-ND 4.0。
提供机构:
d0rj原始信息汇总
SAMSum Corpus (ru) 数据集概述
基本信息
- 名称: SAMSum Corpus (ru)
- 语言: 俄语
- 许可证: CC BY-NC-ND 4.0(非商业使用)
- 多语言性: 单语种
- 大小: 10K<n<100K
- 来源数据集: samsum
- 任务类别: 摘要生成
- 标签: 对话摘要
数据集结构
数据字段
- id: 字符串类型,唯一标识符
- dialogue: 字符串类型,对话文本
- summary: 字符串类型,对话的人工摘要
数据分割
- 训练集: 14731个样本,8598724字节
- 验证集: 818个样本,471632字节
- 测试集: 819个样本,483686字节
- 总大小: 9554042字节
许可证信息
- 使用限制: 非商业使用,CC BY-NC-ND 4.0
引用信息
@inproceedings{gliwa-etal-2019-samsum, title = "{SAMS}um Corpus: A Human-annotated Dialogue Dataset for Abstractive Summarization", author = "Gliwa, Bogdan and Mochol, Iwona and Biesek, Maciej and Wawer, Aleksander", booktitle = "Proceedings of the 2nd Workshop on New Frontiers in Summarization", month = nov, year = "2019", address = "Hong Kong, China", publisher = "Association for Computational Linguistics", url = "https://www.aclweb.org/anthology/D19-5409", doi = "10.18653/v1/D19-5409", pages = "70--79" }
搜集汇总
数据集介绍

构建方式
在对话摘要生成领域,高质量的多语言数据集对于推动模型泛化能力至关重要。SAMSum-ru数据集是基于英文SAMSum语料库,通过Google翻译引擎将其完整翻译为俄语而构建的。原始SAMSum数据集由专家标注的对话及其摘要组成,涵盖日常交流场景。翻译过程中保持了对话与摘要的配对结构,并移除了编号为13828807的异常样本,最终形成了包含对话文本、人工撰写摘要及唯一标识符三个字段的俄语版本。数据集划分为训练集(14731例)、验证集(818例)和测试集(819例),规模介于1万至10万之间,适用于抽象式摘要任务的训练与评估。
特点
该数据集的核心特点在于其跨语言迁移的独特价值。作为俄语单语对话摘要数据集,它继承了原始SAMSum语料库中专家生成的高质量摘要,同时通过机器翻译扩展了语言覆盖范围。数据集中对话内容贴近真实生活,涵盖多种社交互动场景,摘要则力求简洁准确地概括核心信息。这种结构使得模型能够学习俄语对话的语义压缩与关键信息提取,特别适用于抽象式摘要任务的微调与评估。此外,数据集采用CC BY-NC-ND 4.0非商业许可协议,确保在学术研究中的合规使用。
使用方法
使用SAMSum-ru数据集时,可直接从Hugging Face平台加载。推荐利用datasets库中的load_dataset函数,指定数据集名称'd0rj/samsum-ru'即可获取。数据字段包括对话文本(dialogue)、摘要(summary)和唯一标识符(id)。在摘要任务中,通常将dialogue映射为模型输入文本,summary作为目标输出。该数据集已预定义训练、验证和测试划分,可直接用于模型训练与性能评估。由于数据以俄语呈现,适用于多语言或跨语言摘要模型的开发,也可作为俄语自然语言处理任务的基准测试集。
背景与挑战
背景概述
对话摘要任务旨在从自然对话中提炼出简洁而准确的摘要,是人机交互与自然语言处理领域的重要研究方向。SAMSum Corpus(ru)数据集由研究人员基于原始的SAMSum语料库(由Gliwa等人于2019年在第二届摘要新前沿研讨会上发布)通过谷歌翻译工具转译至俄语而成。该数据集创建于2023年左右,主要服务于俄语对话摘要研究,包含约1.6万条标注样本,其中训练集14731条、验证集818条、测试集819条。其核心研究问题在于评估跨语言迁移下抽象式摘要模型对俄语日常对话的概括能力,为低资源语言的对话摘要任务提供了宝贵的基准资源,推动了多语言摘要技术的发展。
当前挑战
该数据集面临多重挑战。首先,在领域问题上,对话摘要需处理口语化表达、指代消解及多轮话题跳跃,原始SAMSum的英语标注标准难以完全适配俄语语法与语用特征;其次,构建过程中采用机器翻译可能引入语义偏差或风格失真,导致摘要与对话的对应关系弱化,影响模型训练质量;此外,俄语形态丰富且缺乏大规模对话摘要语料,数据规模有限(仅约1.6万条)可能限制深度模型泛化能力,且测试集仅819条样本,评估稳定性存疑。这些挑战共同制约了数据集在真实俄语对话场景中的实用性与鲁棒性。
常用场景
经典使用场景
SAMSum-Ru数据集是英文SAMSum语料库的俄语翻译版本,专为对话式抽象摘要任务而设计。该数据集包含超过1.6万条人工撰写的俄语对话及其对应的简洁摘要,覆盖日常交流、问题解决与信息交换等多元场景。在自然语言处理领域,它常被用于训练和评估基于Transformer架构的序列到序列模型,如BART、T5或Pegasus,以生成忠实于原文且语义凝练的对话摘要。研究者可通过此数据集检验模型在跨语言迁移学习中的表现,或探索低资源语言下抽象摘要技术的鲁棒性,从而推动多语言对话理解与生成的前沿进展。
衍生相关工作
SAMSum-Ru衍生了一系列重要工作,包括多语言对话摘要基准的构建与跨语言模型微调策略的优化。研究者常将其与原始SAMSum结合,评估模型在零样本跨语言迁移中的表现,例如Facebook的mBART或Google的mT5在此数据集上的微调实验。此外,该数据集被用于验证数据增强技术(如反向翻译)对低资源摘要质量的提升效果,并催生了针对俄语对话特有现象的语篇分析研究,如称呼语省略与话题转换的摘要策略。这些工作不仅丰富了对话摘要的理论体系,也为其他斯拉夫语言(如乌克兰语、白俄罗斯语)的类似资源开发提供了方法论参考。
数据集最近研究
最新研究方向
在对话摘要领域,跨语言迁移学习已成为前沿热点,尤其针对低资源语言的抽象式摘要任务。SAMSum-ru数据集作为英文SAMSum的高质量俄语翻译版本,为多语言对话理解与生成提供了关键基准。当前研究聚焦于利用该数据集探索预训练语言模型在俄语对话压缩中的表现,例如通过mT5或XLM-R等架构实现语义保持的摘要生成。相关热点事件包括俄语自然语言处理生态的快速扩展,该数据集填补了俄语对话摘要标注资源的空白,推动了多语言对话系统在客服、社交媒体分析等场景的落地。其非商业许可协议也促进了学术界在公平评估和跨语言泛化能力上的深入探讨,对构建更鲁棒的多语言摘要模型具有里程碑意义。
以上内容由遇见数据集搜集并总结生成



