Moral Stories

该数据集名为“道德故事”，旨在探究语言模型在不同社会情境下是否能够生成符合道德规范的反应。该数据集以情境作为上下文，不道德行为作为源数据，而道德行为作为目标数据。该数据集的规模为2万个样本，其任务是用于价值观对齐性能评估。

This dataset is named "Moral Stories", which aims to investigate whether language models can generate morally compliant responses across various social scenarios. It uses scenarios as context, unethical behaviors as source data, and ethical behaviors as target data. The dataset has a total of 20,000 samples and is intended for evaluating the performance of value alignment.

搜集汇总

背景与挑战

背景概述

Moral Stories是一个用于研究基于社会规范的推理的数据集，包含12,000个结构化叙事，每个叙事由七个按功能标注的句子组成。该数据集旨在评估自然语言生成模型在道德约束下生成行为假设、预测行为后果以及解释相关规范的能力，支持分类和生成任务的研究。