mahdi-ranjbar/phi2-alignment

该数据集由Mahdi Ranjbar创建，旨在通过10个涵盖不同任务的提示评估模型在帮助性、诚实性和无害性三个维度上的对齐能力。每个提示有8个由Microsoft Phi-2模型生成的回答，这些回答通过Open Assistant reward模型评分，每个提示选择得分最高的回答。数据集语言为英语，适用于模型微调或提高部署中的回答质量。

原始信息汇总

数据集卡片 for Phi-2 Alignment

数据集描述

创建者： Mahdi Ranjbar

数据集概述

该数据集是为对齐实习生作业开发的，旨在评估三个维度上的对齐性：有用性、诚实性和无害性（3H）。我设计了10个涵盖各种任务的提示，并使用新的微软Phi-2模型生成了每个提示的8个答案。随后，我使用Open Assistant奖励模型评估每个答案的质量。该数据集是通过为每个提示选择得分最高的答案创建的。

语言

数据集的语言是英语。

用途

该数据集可用于微调更好的模型或提高部署中答案的质量。