CValues-Comparison 中文大模型价值观评估基准数据集

随着中文大模型的快速发展，能力在不断提升，越来越多的人开始担心它们可能带来风险。因此，围绕中文大模型的价值观评估、价值观对齐得到了极大的关注。为了促进这个方向的研究，通义实验室开源了 CValues-Comparison 数据集，这是一个包含 145k 的价值观比较样本数据集，每个样本包含 prompt，正例回复、负例回复。

With the rapid advancement and escalating capabilities of Chinese large language models (LLMs), a growing number of individuals have raised concerns over their potential risks. Consequently, value assessment and value alignment for Chinese LLMs have garnered substantial research attention. To facilitate research in this domain, Tongyi Lab has open-sourced the CValues-Comparison dataset, which comprises 145,000 value comparison samples. Each sample contains a prompt, a positive response, and a negative response.

搜集汇总

背景与挑战

背景概述

CValues-Comparison是一个包含145k样本的中文大模型价值观评估基准数据集，每个样本包含prompt、正例回复和负例回复，由通义实验室开源，用于促进中文大模型的价值观评估和对齐研究。