中国移动互联网治理行业中文内容安全类文本数据集

本数据集涵盖31类主要安全风险等负面价值观数据，专门设计用于人工智能大模型在内容安全方面的调优与评测，从而实现大模型应用过程中的价值观正确性。

This dataset contains data reflecting negative values, covering 31 major categories of security risks. It is specifically designed for the tuning and evaluation of large language models (LLMs) in the domain of content safety, aiming to ensure that LLMs align with correct values during their practical applications.

搜集汇总

背景与挑战

背景概述

该数据集包含31类安全风险相关的负面价值观文本数据，专门用于人工智能大模型在内容安全领域的调优与评测，以促进大模型应用的价值观正确性。它适用于敏感内容识别、风险文本分类等多种应用场景，模态为文本分类，规模为0.2GB。