大模型内容安全关键词数据
收藏官方服务：
资源简介：
用于训练内容审核分类器、安全奖励模型与策略优化模型，提升违规识别、有害内容抑制、合规输出与多模态安全等核心能力，广泛应用于内容平台、企业服务与开发者工具等场景。
提供机构：
数据堂（北京）科技股份有限公司创建时间：
2025-12-30
搜集汇总
数据集介绍
背景与挑战
背景概述
该数据集包含60万条标注数据，涵盖涉政、色情、暴力等12个安全相关类别，用于训练内容审核分类器、安全奖励模型及策略优化模型，提升违规识别、有害内容抑制与合规输出能力，适用于内容平台、企业服务和开发者工具等场景。
以上内容由遇见数据集搜集并总结生成
