Adversarial prompts dataset

Name: Adversarial prompts dataset
Creator: Zenodo
Published: 2026-01-25 05:31:29
License: 暂无描述

Zenodo2026-01-25 更新2026-05-26 收录

下载链接：

https://zenodo.org/doi/10.5281/zenodo.18365103

下载链接

链接失效反馈

官方服务：

资源简介：

Prompts in csv format used for traing and testing machine learning models.

提供机构：

Zenodo

创建时间：

2026-01-25

Adversarial prompts dataset

Dataset used to train machine learning models to detect malicious prompts against LLMs.

Zenodo2026-01-25 更新00

POS Tag Adversarial Prompt Dataset

该数据集是为了评估文本提示在文本到图像生成过程中，针对不同词性标签的对抗攻击而构建的。它包含了六个词性标签的输入和目标提示对，这六个词性标签分别是名词、动词、副词、形容词、数词和专有名词。该数据集规模包括118,287行标题和600个生成的提示对，其任务是对文本提示的对抗攻击评估。

arXiv60

aurora-m/adversarial-prompts

该数据集是基于aurora-redteam数据集，对问题添加了多种对抗性变化的版本。这些变化可能用于测试和改进模型的鲁棒性。

Hugging Face2025-10-10 更新20

Adversarial Prompts and Counterfactuals

该数据集包含了专门设计用来引发目标大型语言模型（LLM）偏见响应的对抗性提示，以及旨在通过替换性别化词汇来减轻偏见的反事实提示。此外，该数据集还包含了用于测试不同LLM偏见程度的提示，并结合LLM作为评判工具，用于自动化偏见评估。该数据集是从更大规模的生成提示中筛选出的约500个提示的子集，其任务是对性别偏见进行检测和评估。

arXiv90

harpreetsahota/adversarial-prompts

该数据集基于论文《Explore, Establish, Exploit: Red Teaming Language Models from Scratch》中的示例，旨在测试语言模型在偏见、毒性和错误信息方面的表现。数据集包含37个训练示例，总大小为2366字节。这些提示（prompts）设计用于引发模型产生有毒或错误的响应，从而帮助研究人员和开发者评估和改进语言模型在处理敏感或复杂内容时的表现

Hugging Face2023-11-29 更新200