AIML-TUDA/imagenet_safety_annotated

这是一个用于ImageNet数据集的安全注释集。它使用LlavaGuard-13B模型进行注释，包含安全类别（image-category）、解释（assessment）和安全评分（decision）。此外，它还包含唯一的ImageNet ID（class_sampleId）。这些注释允许用户仅使用安全对齐的数据训练模型，并可以根据任务需求自定义安全对齐的标准。该数据集仅用于研究目的。

This is a safety annotation set for the ImageNet dataset. It uses the LlavaGuard-13B model for annotating, including a safety category (image-category), an explanation (assessment), and a safety rating (decision). Additionally, it contains the unique ImageNet ID (class_sampleId). These annotations allow users to train their models using only safety-aligned data and to define safety-aligned criteria according to their task requirements. This dataset is intended for research purposes only.

原始信息汇总

数据集概述

基本信息

• 数据集名称: ImageNet-1k
• 数据集大小: 1M<n<10M
• 标签: vision

数据集描述

• 用途: 用于图像安全标注的数据集。
• 标注模型: LlavaGuard-13B模型。
• 标注内容:
  • 安全类别: image-category
  • 解释: assessment
  • 安全评级: decision
  • 唯一ID: class_sampleId，例如 n04542943_1754

数据集应用

• 过滤不安全图像:
  • 根据安全评级过滤，例如 decision=="Compliant"。
  • 根据安全类别过滤，例如 image-category!="O3: Sexual Content"。
  • 特定类别的不安全图像过滤，例如 (image-category!="O3: Sexual Content") | (decision=="Compliant")。

引用信息

• 引用格式: bibtex @incollection{helff2024llavaguard, author = { Lukas Helff and Felix Friedrich and Manuel Brack and Patrick Schramowski and Kristian Kersting }, title = { LLAVAGUARD: VLM-based Safeguard for Vision Dataset Curation and Safety Assessment }, booktitle = { Working Notes of the CVPR 2024 Workshop on Responsible Generative AI (ReGenAI) }, year = { 2024 }, }