mcj311/saladbench_data

Salad数据集是一个包含多个配置的数据集，主要用于安全、AIGC、LLM安全、越狱、问答和多选题等领域。数据集包含四个主要文件：base_set.json、attack_enhanced_set.json、defense_enhanced_set.json和mcq_set.json。base_set.json包含基础问题的ID、问题字符串和来源；attack_enhanced_set.json包含攻击增强问题的ID、增强后的问题字符串和使用的攻击方法；defense_enhanced_set.json包含防御增强问题的ID、增强后的问题字符串和使用的防御方法；mcq_set.json包含多选题的字符串。所有文件共享自动分类的标签，包括一级、二级和三级分类。数据集还提供了详细的统计概览和示例数据展示，帮助用户理解数据集的结构和内容。

原始信息汇总

数据集概述

数据集配置

• base_set: 包含文件 base_set.json。
• attack_enhanced_set: 包含文件 attack_enhanced_set.json。
• defense_enhanced_set: 包含文件 defense_enhanced_set.json。
• mcq_set: 包含文件 mcq_set.json。

许可证

• Apache-2.0

语言

• 英语 (en)

标签

• Safety
• AIGC
• LLM Safety
• Jailbreak
• Question-Answer
• Multiple Choice

数据集名称

• Salad

数据集大小

• 10K<n<100K

数据集结构

• base_set.json:
  • qid: 问题ID
  • question: 问题文本
  • source: 问题来源
• attack_enhanced_set.json:
  • aid: 攻击增强问题ID
  • augq: 攻击增强问题文本
  • method: 攻击增强方法
• defense_enhanced_set.json:
  • did: 防御增强问题ID
  • daugq: 防御增强问题文本
  • dmethod: 防御增强方法
• mcq_set.json:
  • mcq: 多选问题文本

共享字段

• 1-category: 自动标注的第一级分类
• 2-category: 自动标注的第二级分类
• 3-category: 自动标注的第三级分类

示例数据

• base_set.json: 示例问题涉及创建宣传白人至上主义的网站。
• attack_enhanced_set.json: 示例问题涉及滥用K2和Spice对健康的风险。
• defense_enhanced_set.json: 示例问题涉及对基督教的偏见。
• mcq_set.json: 示例问题涉及暗网购买的安全性。

搜集汇总

数据集介绍

构建方式

SaladBench数据集旨在为大型语言模型的安全性评估提供标准化基准。其构建过程融合了多源数据采集与自动化增强策略，涵盖自指令生成、开源安全语料库整合及对抗性样本注入。基础集（base_set）包含21,318条问题，源自微调GPT-3.5自生成数据与HH-harmless、Advbench等八个公开安全数据集。在此基础上，通过攻击增强（attack_enhanced_set）与防御增强（defense_enhanced_set）模块，分别采用多种算法对基础问题进行扰动与加固，形成丰富的对抗场景。此外，还构建了多选题集（mcq_set），用于评估模型的判别能力。所有样本均通过自动化流程标注三级安全分类体系，确保覆盖全面且层次分明。

特点

该数据集的核心特点在于其多维结构与细粒度标签体系。首先，它提供了四种相互关联的子集：基础问题集、攻击增强集、防御增强集与多选题集，支持从不同维度评估模型鲁棒性。其次，每个样本均附带三级安全分类标签（如O1: Representation & Toxicity → O1: Toxic Content → O1: Hate Speech），实现了对不安全内容的精确语义定位。再者，数据来源多样化，既包含人工设计的对抗性提示（如GPTFuzzer），也涵盖真实用户交互数据（如ToxicChat），增强了生态效度。最后，数据集规模适中（10K-100K），兼顾了评估效率与统计可靠性。

使用方法

用户可通过HuggingFace Datasets库便捷加载该数据集。具体使用时，需指定配置名称以选择子集，例如`load_dataset('mcj311/saladbench_data', name='base_set', split='train')`获取基础问题集。对于攻击或防御增强场景，可分别选择`attack_enhanced_set`或`defense_enhanced_set`。多选题集则通过`mcq_set`加载。每个子集均包含唯一标识符、问题文本、来源或方法字段及三级分类标签。建议在评估大型语言模型安全性时，首先使用基础集建立基线，再通过增强集测试模型对对抗性输入的防御能力，最后利用多选题集衡量模型在受限选项下的安全判断能力。

背景与挑战

背景概述

SaladBench数据集由研究团队于2023年创建，聚焦于大语言模型（LLM）的安全性评估，旨在系统性地检测和增强模型对越狱攻击的鲁棒性。该数据集整合了来自GPT-3.5微调生成、HH-harmless、Advbench等多元来源的超过两万条基础问题，并衍生出攻击增强、防御增强及多选题集等多个配置，覆盖了从有害内容到虚假信息等细粒度安全分类体系。其核心研究问题在于如何构建标准化基准，以衡量LLM在面对恶意输入时的防御能力，并推动安全对齐技术的进步。作为首个同时提供原始问题、攻击变体与防御增强版本的公开资源，SaladBench对AI安全领域产生了显著影响，为后续研究提供了可复现的评估平台。

当前挑战

SaladBench所解决的领域挑战在于LLM安全评估的碎片化与缺乏统一基准：现有数据集多聚焦单一攻击类型或防御策略，难以全面反映模型在真实场景中的脆弱性。构建过程中，团队面临多重困难，包括从异构来源（如多语言语料、红队测试记录）中提取并标准化有害问题，确保覆盖各类越狱手法（如角色扮演、上下文操纵）；同时需设计自动标注的多级分类体系，以平衡细粒度与泛化性。此外，防御增强集的生成需避免引入偏差，确保评估的公平性，而多选题集的构建则要求精确匹配干扰项与正确答案，以测量模型对安全边界的理解深度。

常用场景

经典使用场景

SaladBench数据集为大型语言模型的安全性评估提供了系统化的基准测试框架。该数据集精心构建了超过两万条基础安全问题，覆盖了从有害内容生成到恶意信息传播等多维度安全风险。研究者可通过其预设的攻击增强集与防御增强集，系统性地评估模型在面对越狱攻击时的脆弱性，以及不同防御策略的有效性。特别地，数据集提供的多级自动标注分类体系，使得对模型安全表现的细粒度分析成为可能，为LLM安全研究提供了标准化的评测平台。

实际应用

在实际应用层面，SaladBench为AI内容安全审核系统提供了关键的测试素材。开发者可利用其多选题集快速评估内容过滤机制的有效性，借助攻击增强集检验安全护栏的鲁棒性。该数据集特别适用于部署前的安全审计环节，帮助识别模型在对抗性输入下的潜在风险。此外，其多级分类体系可直接服务于自动化安全监控系统的构建，通过匹配特定风险类别，实现针对性的安全策略优化。

衍生相关工作

SaladBench的提出催生了多项重要的后续研究工作。基于其攻击增强集，研究者开发了更先进的越狱攻击检测方法，探索了多模态场景下的安全评估扩展。其防御增强集为对比提示工程、对抗训练等防御机制提供了标准化的评估基准。数据集的三级分类体系启发了细粒度安全分析框架的构建，推动了从粗粒度安全评分向特定风险维度精准评估的转变。此外，SaladBench的构建方法论已被借鉴用于其他语言模型安全数据集的创建。