AIDSAFE-generated CoT dataset

该数据集是由AIDSAFE框架生成的，包含了一系列政策嵌入的思考链（CoT）样本，旨在提高语言模型在安全推理方面的能力。该数据集是通过从BeaverTails数据集中抽取5,000个独特的提示来创建的，BeaverTails是一个用于安全训练和对齐研究的基准。该数据集的任务是进行安全推理的训练和评估。