ZachW/StumbBlock

该数据集用于论文《Stumbling Blocks: Stress Testing the Robustness of Machine-Generated Text Detectors Under Attacks》的研究，主要测试机器生成文本检测器在攻击下的鲁棒性。数据集包含未受攻击的.csv文件，用户可以在这些文件上执行攻击或重新实现论文中的排行榜。此外，还提供了一些受攻击的数据集供参考，但鼓励用户自行进行攻击以确保扰动的随机性。数据集的语言为英语，大小在10K到100K之间，标签包括新闻、机器生成文本检测和压力测试。This dataset is created by the research team at the Paul G. Allen School of Computer Science and Engineering, University of Washington, for the paper Stumbling Blocks: Stress Testing the Robustness of Machine-Generated Text Detectors Under Attacks. It primarily contains machine-generated news text used to detect the robustness of these texts under various attacks. The dataset includes unattacked original CSV files and some attacked scenario data, encouraging users to conduct attacks locally to validate the results. The dataset is suitable for research on machine-generated text detection, particularly robustness evaluation.

原始信息汇总

数据集概述

基本信息

• 许可证: MIT
• 任务类别: 文本分类
• 语言: 英语
• 数据规模: 10K<n<100K
• 标签: 新闻, 机器生成文本检测, 压力测试
• 格式: CSV

内容描述

• 数据集来源: 该数据集由论文《Stumbling Blocks: Stress Testing the Robustness of Machine-Generated Text Detectors Under Attacks》（ACL 2024）使用，主要由华盛顿大学Paul G. Allen计算机科学与工程学院的研究团队创建。
• 数据集用途: 用于评估机器生成文本检测器的鲁棒性，揭示现有检测器在不同攻击下的缺陷，并提出改进方案。
• 数据文件:
  • 未攻击数据集: 位于父目录中的.csv文件，可用于重新实现论文中的排行榜（表3）或进行攻击实验。
  • 攻击数据集: 部分攻击数据集位于子目录中，供参考使用，但建议用户自行进行攻击以确保扰动的随机性。
• 生成参数:
  • GPT-j数据集的温度为1.5。
  • GPT-4数据集的温度为0.7。
  • Llama-2数据集的温度为1.5。

搜集汇总

数据集介绍

构建方式

StumbBlock数据集源自ACL 2024会议论文《Stumbling Blocks: Stress Testing the Robustness of Machine-Generated Text Detectors Under Attacks》，旨在系统评估机器生成文本检测器在各类攻击下的鲁棒性。该数据集以CSV格式存储，包含多个未经攻击的.csv文件，其中文本由GPT-J、GPT-4和Llama-2等模型生成，并针对GPT-J和Llama-2设置温度参数为1.5，GPT-4为0.7。部分数据在生成过程中施加了水印标记，以模拟真实场景中的文本特征。此外，数据集中还提供了部分已遭受攻击的子目录数据，但研究者被鼓励在本地自行实施攻击操作，以确保扰动随机性并验证实验结论。

使用方法

研究者可直接使用主目录中的未攻击数据集，复现论文中表3的排行榜结果，或对数据施加自定义攻击以评估检测器鲁棒性。数据集支持文本分类任务的训练与测试，用户可通过加载CSV文件获取文本及对应标签。为保障评估的可靠性，建议在本地端实施攻击扰动，而非直接采用提供的攻击后数据集，从而确保实验结果的随机性与可重复性。相关代码已开源，便于作为鲁棒性评估基准开展后续研究。

背景与挑战

背景概述

随着大型语言模型生成文本的日益普及，区分人类撰写与机器生成内容成为自然语言处理领域的关键挑战。Stumbling Block数据集由华盛顿大学Paul G. Allen计算机科学与工程学院的Yichen Wang、Shangbin Feng等研究人员于2024年创建，核心研究问题在于系统性地评估现有机器生成文本检测器在各类攻击下的鲁棒性。该数据集涵盖了GPT-J、GPT-4、Llama-2等主流模型生成的新闻文本，并引入水印机制，旨在构建一个全面的压力测试基准。其研究发表于ACL 2024，揭示了当前检测器普遍存在的脆弱性，推动了鲁棒检测方法的探索，对信息安全与内容真实性验证领域产生了重要影响。

当前挑战

该数据集面临的核心挑战在于解决机器生成文本检测的鲁棒性问题：现有检测器在应对对抗性攻击（如文本扰动、风格迁移、拼写篡改等）时几乎全部失效，暴露出各自的缺陷与漏洞。构建过程中，挑战包括设计多样化的攻击策略以覆盖检测器的潜在弱点，确保数据集规模与质量以支持统计显著性分析，以及平衡不同生成模型（如GPT-J、GPT-4、Llama-2）与温度参数下的文本多样性。此外，如何在保持攻击随机性的同时提供可复现的基准，以及如何从失败案例中提炼出通用补丁，也是该数据集所致力解决的难题。

常用场景

经典使用场景

StumbBlock数据集专为机器生成文本检测器的鲁棒性压力测试而设计，其经典使用场景在于构建一个系统化的攻击基准，用以评估现有检测器在面对多种对抗性扰动时的脆弱性。该数据集整合了来自GPT-4、Llama-2等不同语言模型生成的文本样本，覆盖水印与非水印场景，并支持研究者自定义攻击策略，从而在统一的框架下揭示检测模型的潜在缺陷与性能上限。

解决学术问题

该数据集致力于解决机器生成文本检测领域的关键学术难题：现有检测器在实际应用中普遍缺乏对抗鲁棒性。通过系统性地引入多种攻击手段，StumbBlock揭示了几乎所有主流检测器均存在显著漏洞，并深入分析了这些缺陷的成因，如特征空间的可操纵性。其研究意义在于为检测器的鲁棒性优化提供了实证基础，推动了从单一准确率评估向多维鲁棒性评估的范式转变。

实际应用

在实际应用中，StumbBlock可用于构建抗干扰的自动内容审核系统，例如社交媒体平台需抵御由恶意用户发起的生成文本欺骗攻击。数据集模拟了低成本至昂贵攻击场景，帮助开发者在部署检测模型前预判其失效边界，从而提升虚假信息治理、学术诚信审查等场景下的防御能力，确保AI生成内容监管的可靠性。

数据集最近研究

最新研究方向

在当前人工智能生成文本泛滥的背景下，机器生成文本检测器的鲁棒性成为自然语言处理领域的前沿热点。StumblingBlock数据集应运而生，它系统性地揭示了现有检测器在各类对抗攻击下普遍存在的脆弱性，填补了该领域鲁棒性评估基准的空白。该研究不仅深入剖析了检测缺陷的成因，还提出了初步的即插即用补丁方案，为构建更可靠的文本溯源技术提供了关键支撑。其成果直接关联到虚假信息治理、学术诚信维护等重大社会议题，对推动生成式AI的安全可控发展具有深远意义。