100 PoisonMpts 中文大模型治理数据集

随着大型语言模型 (LLM) 的快速发展，越来越多的人开始担心它们可能带来的一些风险。因此，围绕大模型的「安全与单色」方向受到了极大的关注。

With the rapid advancement of Large Language Models (LLMs), an increasing number of people have begun to worry about the potential risks they may introduce. Accordingly, research directions centered on the "safety and monochrome" of large language models have attracted considerable attention.

搜集汇总

背景与挑战

背景概述

该数据集是首个针对大语言模型治理的开源中文数据集，由环境社会学、心理学等领域的专家共同标注，通过提出诱导偏见的问题来评估模型的安全与责任。它覆盖法理学、儿童教育等多个维度，旨在基于专家原则进行大模型的自我对齐研究。