guychuk/benign-malicious-prompt-classification

该数据集的目的是帮助检测提示注入或越狱意图。为此，我们决定仅当提示试图操纵时将其分类为恶意 - 这意味着一个坏的提示（例如询问如何制造炸弹）将被分类为良性，因为它是一个直接的问题。数据集包含提示和标签两个特征，标签分为良性和恶意。数据集包含一个训练集，有464,470个例子，总大小为483,043,593字节。

The goal of this dataset is to help detect prompt injections or jailbreak intent. To achieve this, we decided to classify prompts as malicious only if theres an attempt to manipulate them - this means that a bad prompt (e.g., asking how to create a bomb) will be classified as benign since its a straight-up question! The dataset includes features such as prompt and label, with labels divided into benign and malicious. The dataset contains a training set with 464,470 examples, totaling 483,043,593 bytes.

原始信息汇总

数据集概述

基本信息

• 语言: 英语
• 许可证: Apache 2.0
• 任务类别: 文本分类
• 数据集名称: ⚖️ Prompt Intent Classification

数据集详情

特征

• prompt: 字符串类型
• label: 分类标签
  • 类别:
    • 0: benign
    • 1: malicious

数据分割

• train:
  • 样本数量: 464470
  • 字节数: 483043593

文件信息

• 下载大小: 186340131 字节
• 数据集大小: 483043593 字节

配置

• config_name: default
  • 数据文件:
    • split: train
    • path: data/train-*

标签说明

• 恶意标签仅在尝试操纵提示时标记为恶意，直接提问（如询问如何制造炸弹）将被标记为良性。

标签

• security
• prompt-injection