walledai/SafetyDatasets

该数据集包含多个配置，每个配置针对不同的主题或任务。例如，CoNa配置包含178个训练样本，ControversialInstructions配置包含40个训练样本，MaliciousInstructions配置包含100个训练样本，并额外包含一个category特征，PhysicalSafety和QHarm配置各包含100个训练样本。这些配置可能用于训练模型处理特定类型的提示或指令，如争议性指令、恶意指令、物理安全相关提示等。

The dataset includes multiple configurations, each targeting different themes or tasks. For example, the CoNa configuration contains 178 training samples, the ControversialInstructions configuration contains 40 training samples, the MaliciousInstructions configuration contains 100 training samples and includes an additional category feature, and both the PhysicalSafety and QHarm configurations contain 100 training samples each. These configurations are likely used to train models to handle specific types of prompts or instructions, such as controversial instructions, malicious instructions, physical safety-related prompts, etc.

原始信息汇总

数据集概述

数据集配置

CoNa

• 特征:
  • prompt: 类型为 string
• 分割:
  • train: 包含 178 个样本，占用 14165 字节
• 下载大小: 9021 字节
• 数据集大小: 14165 字节

ControversialInstructions

• 特征:
  • prompt: 类型为 string
• 分割:
  • train: 包含 40 个样本，占用 2840 字节
• 下载大小: 2565 字节
• 数据集大小: 2840 字节

MaliciousInstructions

• 特征:
  • prompt: 类型为 string
  • category: 类型为 string
• 分割:
  • train: 包含 100 个样本，占用 6453 字节
• 下载大小: 5056 字节
• 数据集大小: 6453 字节

PhysicalSafety

• 特征:
  • prompt: 类型为 string
• 分割:
  • train: 包含 100 个样本，占用 10920 字节
• 下载大小: 7599 字节
• 数据集大小: 10920 字节

QHarm

• 特征:
  • prompt: 类型为 string
• 分割:
  • train: 包含 100 个样本，占用 5289 字节
• 下载大小: 4773 字节
• 数据集大小: 5289 字节

数据文件路径

• CoNa:
  • train: CoNa/train-*
• ControversialInstructions:
  • train: ControversialInstructions/train-*
• MaliciousInstructions:
  • train: MaliciousInstructions/train-*
• PhysicalSafety:
  • train: PhysicalSafety/train-*
• QHarm:
  • train: QHarm/train-*

搜集汇总

背景与挑战

背景概述

该数据集是一个用于评估语言模型安全性的文本数据集，包含多个子集，覆盖恶意指令、仇恨言论、争议话题等多个安全领域。数据集基于GPT-3生成和手动检查，部分数据来源于其他研究工作，需遵循非商业性使用许可。