PKU-Alignment/SafeSora-Eval
收藏Hugging Face2024-06-20 更新2024-06-15 收录
下载链接：
https://hf-mirror.com/datasets/PKU-Alignment/SafeSora-Eval
下载链接
链接失效反馈官方服务：
资源简介：
SafeSora是一个人类偏好数据集，旨在支持文本到视频生成领域的安全对齐研究，以提高大型视觉模型（LVMs）的有益性和无害性。它目前包含三种类型的数据：一个包含57k+文本-视频对的分类数据集（SafeSora-Label），其中包括对其文本提示和文本-视频对的12种伤害标签的多标签分类；一个包含51k+实例的人类偏好数据集（SafeSora），在文本到视频生成任务中包含有益性和无害性方面的比较关系，以及有益性的四个子维度；一个包含600个人工编写提示的评估数据集（SafeSora-Eval），其中300个是安全中性的，另外300个是根据12种伤害类别构建的红队提示。未来，还将开源一些利用这些数据集的基线对齐算法。
提供机构：
PKU-Alignment
原始信息汇总
数据集卡片 for SafeSora
概述
SafeSora 是一个人类偏好数据集，旨在支持文本到视频生成领域的安全对齐研究，目的是提高大型视觉模型（LVMs）的有用性和无害性。该数据集目前包含三种类型的数据：
- 分类数据集（SafeSora-Label）：包含超过 57,000 个文本-视频对，包括 12 种伤害标签的多标签分类。
- 人类偏好数据集（SafeSora）：包含超过 51,000 个实例，涉及文本到视频生成任务中的有用性和无害性的比较关系，以及四个有用性的子维度。
- 评估数据集（SafeSora-Eval）：包含 600 个人类编写的提示，其中 300 个是安全中性的，另外 300 个是根据 12 种伤害类别构建的红队提示。
评估数据集
评估数据集包含 600 个人类编写的提示，包括 300 个安全中性提示和 300 个红队提示。这些红队提示是基于 12 种有害类别构建的。这些提示不会出现在训练集中，保留给研究人员用于模型评估的视频生成。
