red teaming prompts

该数据集包含了一个聚合和统一的现有红队测试提示集合，旨在识别文本生成大型语言模型（LLMs）中的刻板印象、歧视、仇恨言论和其他代表性危害。数据集包括来自13个独特数据集的大约40,000个提示（及部分响应），这些提示经过精心评估以确保其相关性和质量。数据集的结构包括多个统一列，如组织名称、分类、提示类型、提示指令、提示内容、解释和AI响应。该数据集是作者AI安全顶点项目的一部分，旨在促进关于AI伦