CValues-Comparison

为了促进中文大模型的价值观评估、价值观对齐方向的研究，达摩院提供CValues-Comparison数据集，包含145k的价值观比较样本数据集，每个样本包含（prompt，正例回复、负例回复）。

To facilitate research on value evaluation and value alignment for Chinese large language models, DAMO Academy has released the CValues-Comparison dataset, which contains 145k value comparison samples. Each sample includes a prompt, a positive response, and a negative response.

搜集汇总

背景与挑战

背景概述

CValues-Comparison是一个专注于中文大模型价值观评估和对齐的数据集，包含145k个样本，每个样本提供风险问题、正例回复和负例回复，用于支持安全增强、奖励模型训练和自动化评估等任务。数据集基于论文构建，正负例类型分为拒绝&正向建议、拒绝为主和风险回复三种，能组合成不同难度样本，旨在促进中文大模型在安全性和责任性方面的研究。