five

XL-SUM|多语言文本摘要数据集|自然语言处理数据集

收藏
github2024-11-25 更新2024-11-26 收录
多语言文本摘要
自然语言处理
下载链接:
https://github.com/KdotMShah/Text-Summarization-Using-LLM-on-pre-built_model
下载链接
链接失效反馈
资源简介:
XL-SUM数据集是一个大规模的多语言抽象摘要数据集,涵盖了45种语言。它用于训练和微调多语言文本摘要模型,如mT5。
创建时间:
2024-11-25
原始信息汇总

数据集概述

数据集名称

XL-SUM

数据集描述

XL-SUM数据集是一个大规模的多语言摘要数据集,涵盖45种语言。该数据集用于训练和微调多语言文本摘要模型。

数据集来源

  • 数据集链接: https://huggingface.co/datasets/csebuetnlp/xlsum
  • 官方仓库: https://github.com/csebuetnlp/xl-sum

相关论文

  • 标题: "Large-Scale Multilingual Abstractive Summarization for 44 Languages"
  • 作者: Hasan, Tahmid 等
  • 会议: Findings of the Association for Computational Linguistics: ACL-IJCNLP 2021
  • 出版年份: 2021
  • 链接: https://aclanthology.org/2021.findings-acl.413
AI搜集汇总
数据集介绍
main_image_url
构建方式
XL-SUM数据集的构建基于大规模的多语言抽象摘要任务,涵盖了44种语言。该数据集通过收集和整理多语言的新闻文章及其对应的摘要,形成了一个庞大的语料库。构建过程中,研究团队采用了先进的文本处理技术,确保了数据的质量和多样性,从而为多语言文本摘要模型的训练提供了坚实的基础。
特点
XL-SUM数据集的主要特点在于其广泛的语言覆盖和高质量的摘要内容。该数据集不仅包含了主流语言,还涵盖了多种小众语言,极大地丰富了多语言文本摘要研究的多样性。此外,数据集中的摘要内容经过精心筛选和处理,确保了其准确性和相关性,为模型训练提供了可靠的数据支持。
使用方法
使用XL-SUM数据集时,研究者可以通过加载预处理的数据文件,直接进行模型训练或评估。数据集提供了详细的文档和示例代码,帮助用户快速上手。此外,数据集还支持多种语言的并行处理,使得多语言模型的训练和测试更加高效。用户可以根据具体需求,选择合适的语言和数据子集进行操作。
背景与挑战
背景概述
XL-SUM数据集由Hasan等人于2021年创建,旨在解决大规模多语言抽象摘要的问题。该数据集涵盖了44种语言,为多语言文本摘要研究提供了丰富的资源。主要研究人员包括Hasan、Bhattacharjee、Islam等,他们在ACL-IJCNLP 2021会议上发表了相关研究成果。XL-SUM的推出显著推动了多语言文本摘要技术的发展,为跨语言信息处理提供了新的研究方向。
当前挑战
XL-SUM数据集面临的主要挑战包括多语言文本摘要的复杂性,不同语言之间的语法和语义差异,以及大规模数据处理的技术难题。此外,构建过程中需要克服语言多样性带来的数据标注和模型训练的困难。这些挑战不仅涉及技术层面,还要求研究人员具备跨语言的深入理解和处理能力。
常用场景
经典使用场景
在自然语言处理领域,XL-SUM数据集的经典使用场景主要集中在多语言文本摘要任务中。该数据集包含了45种语言的文本摘要数据,为研究人员提供了一个丰富的资源库,用于训练和评估多语言摘要模型。通过利用XL-SUM数据集,研究者可以开发出能够处理多种语言的摘要生成模型,从而在跨语言信息处理中实现高效的信息提取和总结。
解决学术问题
XL-SUM数据集在学术研究中解决了多语言文本摘要的挑战,特别是在处理低资源语言时。传统的摘要模型通常依赖于单一语言的数据,而XL-SUM通过提供多语言的摘要数据,使得研究者能够探索和开发适用于多种语言的摘要技术。这不仅推动了多语言自然语言处理技术的发展,还为跨文化交流和信息共享提供了技术支持。
衍生相关工作
XL-SUM数据集的发布催生了一系列相关的经典工作,特别是在多语言摘要模型的开发和评估方面。例如,研究者们基于XL-SUM数据集提出了多种改进的多语言摘要模型,这些模型在处理不同语言的文本时表现出色。此外,XL-SUM还激发了关于多语言数据集构建和评估标准的讨论,推动了多语言自然语言处理领域的标准化进程。
以上内容由AI搜集并总结生成
用户留言
有没有相关的论文或文献参考?
这个数据集是基于什么背景创建的?
数据集的作者是谁?
能帮我联系到这个数据集的作者吗?
这个数据集如何下载?
点击留言
数据主题
具身智能
数据集  4099个
机构  8个
大模型
数据集  439个
机构  10个
无人机
数据集  37个
机构  6个
指令微调
数据集  36个
机构  6个
蛋白质结构
数据集  50个
机构  8个
空间智能
数据集  21个
机构  5个
5,000+
优质数据集
54 个
任务类型
进入经典数据集
热门数据集

HazyDet

HazyDet是由解放军工程大学等机构创建的一个大规模数据集,专门用于雾霾场景下的无人机视角物体检测。该数据集包含383,000个真实世界实例,收集自自然雾霾环境和正常场景中人工添加的雾霾效果,以模拟恶劣天气条件。数据集的创建过程结合了深度估计和大气散射模型,确保了数据的真实性和多样性。HazyDet主要应用于无人机在恶劣天气条件下的物体检测,旨在提高无人机在复杂环境中的感知能力。

arXiv 收录

中文突发事件语料库

中文突发事件语料库是由上海大学(语义智能实验室)所构建,根据国务院颁布的《国家突发公共事件总体应急预案》的分类体系,从互联网上收集了5类(地震、火灾、交通事故、恐怖袭击和食物中毒)突发事件的新闻报道作为生语料,然后再对生语料进行文本预处理、文本分析、事件标注以及一致性检查等处理,最后将标注结果保存到语料库中,CEC合计332篇。

github 收录

emotions-dataset

情绪数据集是一个精心策划的文本数据集,包含131,306个文本条目,标注了13种不同的情绪,如快乐、悲伤、中性、愤怒等。该数据集旨在提升情感分类、情感分析和自然语言处理的能力,适用于构建富有同情心的聊天机器人、心理健康工具、社交媒体分析器等。数据集文件大小为7.41MB,便于在边缘设备和大型项目中使用。

huggingface 收录

Paper III (Walker et al. 2024)

Data products used in 3-D CMZ Paper III, Walker et al. (2024). The full cloud catalogue is provided in tabular format, along with a full CMZ map showing the clouds and their assigned IDs. For each cloud ID in the published catalogue there are: - Individual cube cutouts from the MOPRA 3mm CMZ survey (HC3N, HCN, and HNCO). - Individual cube cutouts from the APEX 1mm CMZ survey (13CO, C18O, and H2CO). - Cloud-averaged spectra of the ATCA H2CO 4.83 GHz line. - PV slices of the ATCA H2CO 4.83 GHz line, taken across the major axis of the source. - Where applicable, there are mask files which correspond to the different velocity components of the cloud. In these cases, there are two mask files per velocity component, corresponding to the different masking approaches described in the paper.

DataCite Commons 收录

ISIC 2018

ISIC 2018数据集包含2594张皮肤病变图像,用于皮肤癌检测任务。数据集分为训练集、验证集和测试集,每张图像都附有详细的元数据,包括病变类型、患者年龄、性别和解剖部位等信息。

challenge2018.isic-archive.com 收录