acmc/ghostbuster_reuter
收藏Hugging Face2024-05-27 更新2024-06-12 收录
下载链接:
https://hf-mirror.com/datasets/acmc/ghostbuster_reuter
下载链接
链接失效反馈官方服务:
资源简介:
---
dataset_info:
features:
- name: text
dtype: string
- name: model
dtype: string
- name: generated
dtype: bool
- name: results
list:
- name: label
dtype: int64
- name: metadata
struct:
- name: func
dtype: string
- name: model
dtype: string
- name: params
struct:
- name: percentage
dtype: float64
- name: percentage_to_replace
dtype: float64
- name: score
dtype: float64
splits:
- name: train
num_bytes: 27821052
num_examples: 7000
download_size: 13089981
dataset_size: 27821052
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
数据集信息:
特征字段:
- 字段名:文本(text),数据类型:字符串
- 字段名:模型(model),数据类型:字符串
- 字段名:是否生成(generated),数据类型:布尔值
- 字段名:结果集(results),数据类型:列表,列表内元素结构如下:
- 字段名:标签(label),数据类型:64位整型
- 字段名:元数据(metadata),数据类型:结构体,结构体包含以下子字段:
- 字段名:函数(func),数据类型:字符串
- 字段名:模型(model),数据类型:字符串
- 字段名:参数(params),数据类型:结构体,结构体包含以下子字段:
- 字段名:占比(percentage),数据类型:64位浮点型
- 字段名:替换占比(percentage_to_replace),数据类型:64位浮点型
- 字段名:得分(score),数据类型:64位浮点型
划分集:
- 划分集名称:训练集(train),数据占用字节数:27821052,样本数量:7000
下载大小:13089981
数据集总大小:27821052
配置项:
- 配置名称:默认(default),数据文件配置如下:
- 对应划分集:训练集,文件路径:data/train-*
提供机构:
acmc原始信息汇总
数据集概述
数据集特征
- text:字符串类型
- model:字符串类型
- generated:布尔类型
- results:列表类型,包含以下子特征:
- label:整数类型(int64)
- metadata:结构体类型,包含:
- func:字符串类型
- model:字符串类型
- params:结构体类型,包含:
- percentage:浮点数类型(float64)
- percentage_to_replace:浮点数类型(float64)
- score:浮点数类型(float64)
数据集分割
- train:
- 字节数:27,821,052
- 示例数:7,000
数据集大小
- 下载大小:13,089,981字节
- 数据集大小:27,821,052字节
配置
- config_name: default
- data_files:
- split: train
- path: data/train-*
- split: train
- data_files:
搜集汇总
数据集介绍

构建方式
在自然语言处理领域,机器生成文本的检测已成为一项关键挑战。acmc/ghostbuster_reuter数据集基于路透社新闻语料构建,旨在服务于机器生成文本的识别任务。其构建方式别具匠心:首先收集原始新闻文本作为基准,随后利用多种语言模型对这些文本进行改写或生成,从而得到对应的机器生成版本。每条样本包含原始文本、生成模型标识以及一个布尔标签,用以区分文本是否由机器生成。此外,数据集还详细记录了检测结果,包括标签、元数据(如检测函数、模型参数)和置信度评分,为模型训练与评估提供了结构化且丰富的监督信号。
使用方法
使用该数据集时,研究者可直接加载默认配置的训练集,利用'text'字段作为输入特征,'generated'字段作为二分类标签,训练机器生成文本检测模型。'results'字段中的详细检测记录可用于进一步分析模型性能,例如通过'score'值评估检测置信度或利用'metadata'中的参数信息研究特定生成策略的影响。数据集兼容HuggingFace的datasets库,支持便捷的数据加载与预处理,适合集成到现有的NLP实验流程中,为机器文本检测研究提供标准化的基准数据。
背景与挑战
背景概述
在自然语言处理领域,随着大型语言模型如GPT系列的蓬勃发展,机器生成文本的泛滥已成为一个亟待解决的关键问题。由学术界与工业界联合构建的ghostbuster_reuter数据集,诞生于2023年,旨在应对这一挑战。该数据集由acmc机构主导,聚焦于区分人类撰写的路透社新闻文本与机器生成的仿冒内容,核心研究问题在于如何通过细粒度的特征分析,提升对生成文本的检测精度。其影响力体现在为AI文本检测器提供了标准化训练基准,推动了对抗性生成与防御技术的双向演进,对维护信息生态的真实性具有深远意义。
当前挑战
该数据集面临的核心挑战在于领域问题的复杂性:机器生成文本与人类写作在语言模式上的界限日益模糊,尤其当模型参数规模扩大时,生成内容在语法和语义上几乎可以乱真,导致传统基于统计特征的检测方法失效。此外,构建过程中遭遇多重困难,包括如何收集足够多样且无偏的真实新闻样本,以及如何设计针对不同生成策略(如部分替换或全量生成)的对抗性测试集。数据标注的可靠性亦是一大难题,人工判断生成文本的准确性往往因主观差异而降低,这些因素共同制约了检测模型的泛化能力与鲁棒性。
常用场景
经典使用场景
在自然语言处理与生成式人工智能的交叉领域,acmc/ghostbuster_reuter数据集为文本机器生成检测任务提供了标准化的评测基准。该数据集包含7000条训练样本,每条样本均标注了文本来源(是否为机器生成)及对应的生成模型信息,适用于训练和评估各类二分类与多分类检测模型。研究者可基于其丰富的元数据(如替换比例、模型参数等)深入分析不同生成策略对检测难度的影响,从而推动文本溯源与真实性验证技术的发展。
解决学术问题
该数据集系统性地解决了机器生成文本检测中缺乏高质量、多维度标注资源的学术困境。通过提供包含原始文本、生成模型标识与细粒度操作参数的配对样本,它使得研究者能够量化分析不同生成技术(如局部替换、全局改写)对检测性能的干扰,并评估检测模型在不同生成策略下的泛化能力。这一贡献显著推动了对抗性文本检测、模型指纹识别及生成文本归因等方向的研究进展,为构建更鲁棒的AI内容鉴别系统奠定了数据基础。
实际应用
在实际应用中,该数据集支撑着多个关键场景的落地:新闻媒体机构可借助基于该数据训练的检测模型识别自动生成的虚假新闻稿件;学术出版界利用其鉴别AI代写的论文片段以维护学术诚信;社交媒体平台部署其衍生的检测工具过滤机器生产的恶意评论与虚假信息。此外,法律取证领域也借助该数据集开发用于验证电子证据真实性的辅助系统,有效提升了对合成文本的溯源能力。
数据集最近研究
最新研究方向
在自然语言处理与人工智能伦理交叉的前沿领域,acmc/ghostbuster_reuter数据集的出现为大型语言模型生成文本的检测研究提供了关键支撑。该数据集聚焦于路透社新闻语料,通过构建包含原始文本与模型生成文本的对照样本,并引入多维度评估指标(如标签、评分及元数据中的替换比例参数),精准刻画了机器生成内容的语义与统计特征。当前,随着ChatGPT等生成式模型在新闻生产、社交媒体中的泛滥应用,虚假信息与深度伪造文本的识别已成为全球关注的热点事件。该数据集不仅为开发高鲁棒性的“幽灵文本”检测算法(GhostBuster)提供了标准化训练基准,还通过参数化实验设计(如动态调整替换百分比)推动了对抗性检测方法的发展,其意义在于从数据层面弥合了生成文本可控性与可验证性之间的鸿沟,为构建可信AI生态奠定了实证基础。
以上内容由遇见数据集搜集并总结生成



