CValues-Comparison 中文大模型价值观比较数据集

为了促进中文大模型的价值观评估、价值观对齐方向的研究，达摩院提供CValues-Comparison数据集，包含145k的价值观比较样本数据集，每个样本包含（prompt，正例回复、负例回复）。

To advance research on value evaluation and value alignment for Chinese large language models, DAMO Academy has released the CValues-Comparison dataset, which contains 145k value comparison samples. Each sample includes three components: a prompt, a positive response, and a negative response.

搜集汇总

背景与挑战

背景概述

CValues-Comparison是一个专注于中文大语言模型价值观比较的数据集，包含145k个样本，每个样本由提示、正面响应和负面响应组成，用于评估模型的安全性和责任性。该数据集支持多种研究任务，如监督微调、奖励模型训练和自动化安全评估，通过不同响应类型的组合构建多难度样本。数据集基于Apache 2.0许可证开源，旨在促进中文大模型的价值对齐研究，但包含大量负面内容，主要用于风险检测和改进模型价值观。