Toxic Question Dataset
收藏arXiv2025-09-30 收录
下载链接：
https://github.com/chengzelei/crowdsource_toxicity_classification
下载链接
链接失效反馈官方服务：
资源简介：
该数据集根据OpenAI的使用政策，被划分为15个类别。每个数据点都包含了三个由人类标注的注释和三个由大型语言模型生成的注释。此外，该数据集不仅包含了来自人类标注者的注释，还包括了来自GPT-4、GPT-4 Turbo和Claude-2等大型语言模型的注释。在规模上，该数据集包含了6941个样本用于训练，2000个样本用于测试，以及1000个样本用于验证。其任务是进行问题内容的毒性分类。
提供机构：
Third-party security company
