ZySec-AI/harmful_behaviors

Harmful Questions数据集旨在验证数据集守卫措施，通过识别有害内容。它包含文本数据、分类标签和有害类别注释，可用于测试和改进数据过滤机制以减轻有害内容的影响。

The Harmful Questions dataset is designed to validate dataset guardrails by identifying harmful content. It includes text data, classification labels, and annotations of harmful categories, which can be used for testing and improving dataset filtering mechanisms to mitigate the impact of harmful content.

搜集汇总

背景与挑战

背景概述

该数据集是一个用于验证数据集防护措施的英文文本数据集，旨在识别和分类有害内容，以改进内容过滤机制。数据集包含22,286行数据，采用Apache-2.0许可证，适用于测试和优化内容过滤系统。