广东博众大模型安全数据集

广东博众大模型安全数据集为面向智能体、大模型内容合规检测的标准化标注数据集，包含数据唯一标识 (qid)、用户提问 (question)、智能体回复内容 (answer)、数据创建时间 (created_at)、数据编号 (id)、一级分类标签 (level1_category)、二级分类标签 (level2_category)、安全属性标签 (security_attribute) 八大结构化字段。数据集归集海量真实人机问答样本，按照违规类型划分有害违法、歧视与偏见、隐私保护侵害、通用正常问答等类别，并统一标注安全属性（safe/unsafe），精准区分正常交互内容与各类高危违规内容，可作为智能体内容回复高危行为检测的标准基准库。

搜集汇总

背景与挑战

背景概述

广东博众大模型安全数据集是一个面向智能体与大模型内容合规检测的标准化标注数据集，包含八大结构化字段，如数据唯一标识、用户提问、智能体回复、时间、编号、分类标签及安全属性标签等。该数据集汇集了海量真实人机问答样本，按违规类型划分为有害违法、歧视与偏见、隐私保护侵害、通用正常问答等类别，并为每条样本标注安全属性（safe/unsafe），以精准区分正常交互与高危违规内容，可作为智能体内容回复高危行为检测的标准基准库，支持常态测试、巡检与合规校验。