Toxic content recommended to manosphere-curious 16-year-old TikTok user 2024

Statista2026-04-25 收录

社交媒体推荐算法

有毒内容检测

数据链接：

https://www.statista.com/statistics/1609043/toxic-content-recommended-manosphere-curious-teen-tiktok-account/数据链接链接失效反馈

官方服务：

资源简介：

Increase in various types of toxic content recommended to a 16-year-old manosphere-curious TikTok user in 2024

Paparare/toxic_benchmark_2024

自然语言处理

有毒内容检测

Paparare/toxic_benchmark_2024是由哥伦比亚大学Xinmeng Hou创建的一个用于检测有毒语言的综合性标注基准数据集。该数据集包含1942条数据，旨在通过人文研究为基础的规范性标注框架，确保对冒犯性语言的一致且无偏见的标注。数据集的创建过程结合了多源语言模型标注数据，通过小规模统计分析和实验验证了其有效性。该数据集主要应用于自然语言处理领域，旨在解决语言多样性保护和偏见

arXiv2024-10-17 更新1530

DarkPatterns-LLM Benchmark Dataset

大型语言模型安全

有毒内容检测

该数据集包含401个专家标注的指令-响应对，用于检测大型语言模型输出中的操纵性和有害行为。每个实例包含指令、被拒绝的操纵性/有害响应、被接受的安全响应、专家讨论和主要危害类别标签。数据集支持多维度的安全评估，涵盖7种危害类别，并采用严格的标注方法。

github2025-12-31 更新540

Unsafe Diffusion: On the Generation of Unsafe Images and Hateful Memes From Text-To-Image Models

生成式AI安全评估

有毒内容检测

[Update] Looking for a larger unsafe image dataset? We publish a new dataset named UnsafeBench on Hugging Face. Take a look at here! This dataset used in the paper https://arxiv.org/pdf/2305.13873.p

Zenodo2024-06-04 更新80

aya_redteaming

有毒内容检测

多语言数据

Aya Red-teaming数据集是一个由专业付费标注者创建的多语言红队测试数据集，包含8种语言中的有害提示，跨越9种不同类别的有害内容，并明确标注了“全球”和“本地”有害性。数据集包括多个字段，如原始提示、语言、有害类别、全球或本地有害性、字面翻译、语义翻译和解释。该数据集是Cohere For AI发布的Aya系列数据集的一部分。

Hugging Face2024-06-28 更新580

ai-safety-institute/AgentHarm

智能体安全评估

有毒内容检测

AgentHarm是一个用于测量大型语言模型（LLM）代理有害性的基准数据集。数据集包含三种配置：无害良性（harmless_benign）、有害（harmful）和聊天（chat），每种配置都有公开测试和验证数据文件。数据集旨在支持研究，使AI系统对所有人更安全，包含可能表达有害情感的内容。数据集的使用受到MIT许可证的限制，并附加了额外条款，禁止将数据集用于提高AI系统安全性和安全性之外的目的

Hugging Face2024-12-19 更新110

Toxic content recommended to manosphere-curious 16-year-old TikTok user 2024

资源简介：

相关数据集