JailbreakV-28K/JailBreakV-28k|多模态语言模型数据集|安全评估数据集

JailBreakV_28K数据集是一个用于评估多模态大语言模型（MLLMs）对越狱攻击鲁棒性的基准数据集。该数据集包含28,000个越狱文本-图像对，其中包括20,000个基于文本的LLM转移越狱攻击和8,000个基于图像的MLLM越狱攻击。数据集覆盖16种安全策略和5种不同的越狱方法。此外，RedTeam_2K数据集包含2,000个有害查询，用于识别LLMs和MLLMs的对齐漏洞，覆盖16种安全策略和8个不同的数据来源。

The JailBreakV_28K dataset is a benchmark designed to assess the robustness of MultiModal Large Language Models (MLLMs) against jailbreak attacks. It contains 28,000 jailbreak text-image pairs, including 20,000 text-based LLM transfer jailbreak attacks and 8,000 image-based MLLM jailbreak attacks. The dataset covers 16 safety policies and 5 diverse jailbreak methods. Additionally, the RedTeam_2K dataset includes 2,000 harmful queries aimed at identifying alignment vulnerabilities within LLMs and MLLMs, spanning 16 safety policies and incorporating queries from 8 distinct sources.

原始信息汇总

数据集概述

数据集名称

• JailBreakV_28K

许可

• MIT

任务类别

• 文本生成
• 问答

数据集大小

• 10K<n<100K

配置

• config_name: JailBreakV_28K
  • split: mini_JailBreakV_28K
    • path: JailBreakV_28K/mini_JailBreakV_28K.csv
  • split: JailBreakV_28K
    • path: JailBreakV_28K/JailBreakV_28K.csv
• config_name: RedTeam_2K
  • split: RedTeam_2K
    • path: JailBreakV_28K/RedTeam_2K.csv

数据集详情

JailBreakV_28K 和 mini_JailBreakV_28K 数据集列

• id: 唯一标识符
• jailbreak_query: 通过不同越狱攻击获得的越狱查询
• redteam_query: 来自 RedTeam_2K 的有害查询
• format: 越狱攻击方法，包括模板、说服、逻辑、figstep、查询相关
• policy: 红队查询违反的安全策略
• image_path: 图像文件路径
• from: 数据来源
• selected_mini: 如果数据在 mini_JailBreakV_28K 数据集中则为 "True"，否则为 "False"
• transfer_from_llm: 如果越狱查询是从 LLM 越狱攻击转移过来的则为 "True"，否则为 "False"

RedTeam_2K 数据集列

• id: 唯一标识符
• question: 有害查询
• policy: 红队查询违反的安全策略
• from: 数据来源

数据组成

RedTeam_2K

• 描述: 精心策划的包含 2,000 个有害查询的数据集，旨在识别 LLM 和 MLLM 中的对齐漏洞。该数据集涵盖 16 个安全策略，并包含来自 8 个不同来源的查询。

JailBreakV_28K

• 描述: 包含 28,000 个越狱文本-图像对的数据集，包括 20,000 个基于文本的 LLM 转移越狱攻击和 8,000 个基于图像的 MLLM 越狱攻击。该数据集涵盖 16 个安全策略和 5 种不同的越狱方法。

数据集概览

• RedTeam_2K: 包含 2,000 个有害查询，涵盖 16 个安全策略，来自 8 个不同来源。
• JailBreakV_28K: 包含 28,000 个越狱文本-图像对，涵盖 16 个安全策略和 5 种越狱方法。

数据集使用

python from datasets import load_dataset

mini_JailBreakV_28K = load_dataset("JailbreakV-28K/JailBreakV-28k", JailBreakV_28K)["mini_JailBreakV_28K"] JailBreakV_28K = load_dataset("JailbreakV-28K/JailBreakV-28k", JailBreakV_28K)["JailBreakV_28K"] RedTeam_2K = load_dataset("JailbreakV-28K/JailBreakV-28k", RedTeam_2K)["RedTeam_2K"]