five

s-nlp/paranmt_for_detox

收藏
Hugging Face2023-09-08 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/s-nlp/paranmt_for_detox
下载链接
链接失效反馈
官方服务:
资源简介:
ParaNMTDetox数据集是一个用于文本去毒任务的平行数据集,包含一对对的重述文本,其中一个是毒性的,另一个是非毒性的。毒性水平由英语毒性分类器定义。该数据集通过ParaNMT过滤管道进行处理,包括内容保留检查和毒性检查两个主要步骤。该数据集的相关研究在ACL 2022主会议上发表,展示了最先进的文本去毒技术。

ParaNMTDetox数据集是一个用于文本去毒任务的平行数据集,包含一对对的重述文本,其中一个是毒性的,另一个是非毒性的。毒性水平由英语毒性分类器定义。该数据集通过ParaNMT过滤管道进行处理,包括内容保留检查和毒性检查两个主要步骤。该数据集的相关研究在ACL 2022主会议上发表,展示了最先进的文本去毒技术。
提供机构:
s-nlp
原始信息汇总

数据集概述

数据集名称

ParaNMTDetox: Detoxification with Parallel Data (English)

数据集描述

本数据集包含经过筛选的ParaNMT数据集,用于文本解毒任务。数据集中的内容为一对对改写文本,其中一个是毒性文本,另一个是非毒性文本。毒性水平的定义依据英语毒性分类器。

数据集来源

数据集的筛选过程通过适应ParaDetox数据集收集,使用Yandex.Toloka众包平台进行。筛选过程分为三个步骤:

  1. 内容保留检查:向用户展示生成的改写文本及其原始版本,并询问它们是否具有相似的含义。
  2. 毒性检查:最终检查工作者是否成功移除了毒性。

相关文献

许可证

openrail++

任务类别

  • 文本生成

语言

  • 英语
5,000+
优质数据集
54 个
任务类型
进入经典数据集
二维码
社区交流群

面向社区/商业的数据集话题

二维码
科研交流群

面向高校/科研机构的开源数据集话题

数据驱动未来

携手共赢发展

商业合作