PKU-Alignment/SafeSora-Prompt

Name: PKU-Alignment/SafeSora-Prompt
Creator: PKU-Alignment
Published: 2024-08-12 12:01:37
License: 暂无描述

Hugging Face2024-08-12 更新2025-04-08 收录

下载链接：

https://hf-mirror.com/datasets/PKU-Alignment/SafeSora-Prompt

下载链接

链接失效反馈

官方服务：

资源简介：

--- license: cc-by-nc-4.0 ---

提供机构：

PKU-Alignment

PKU-Alignment/SafeSora

SafeSora是一个人类偏好数据集，旨在支持文本到视频生成领域的安全对齐研究，以提高大型视觉模型（LVMs）的有用性和无害性。数据集包含三种类型的数据：分类数据集（SafeSora-Label）、人类偏好数据集（SafeSora）和评估数据集（SafeSora-Eval）。分类数据集包含57k+文本-视频对，包括12种有害标签的多标签分类。人类偏好数据集包含51k+实例，涉及文本到视频生成任务中

Hugging Face2024-06-20 更新480

PKU-Alignment/SafeSora-Eval

SafeSora是一个人类偏好数据集，旨在支持文本到视频生成领域的安全对齐研究，以提高大型视觉模型（LVMs）的有益性和无害性。它目前包含三种类型的数据：一个包含57k+文本-视频对的分类数据集（SafeSora-Label），其中包括对其文本提示和文本-视频对的12种伤害标签的多标签分类；一个包含51k+实例的人类偏好数据集（SafeSora），在文本到视频生成任务中包含有益性和无害性方面的比较

Hugging Face2024-06-20 更新160

PKU-Alignment/InterMT

InterMT是一个首个为多轮多模态交互设计的偏好数据集，包含精心设计的种子问题和细粒度的人类偏好注释，用于评估和改进多模态大型模型的多轮交互能力。

Hugging Face2026-01-08 更新40

PKU-Alignment/SafeSora-Label

SafeSora是一个人类偏好数据集，旨在支持文本到视频生成领域的安全对齐研究，以提高大型视觉模型（LVMs）的有用性和无害性。数据集包含三种类型的数据：分类数据集（SafeSora-Label）、人类偏好数据集（SafeSora）和评估数据集（SafeSora-Eval）。分类数据集包含57k+的文本-视频对，每个对都标有12个有害标签。人类偏好数据集包含51k+的实例，涉及文本到视频生成任务中

Hugging Face2024-06-20 更新310

PKU-Alignment/PKU-SafeRLHF-prompt

该数据集包含来自PKU-SafeRLHF的44.6K个独特提示。其中22.4%的提示来自兄弟项目BeaverTails。此外，我们使用Alpaca 52K数据集对Llama3-70B进行了SFT，生成了Alpaca3-70B。在我们的数据集中，63.6%和14.0%的数据分别由Alpaca3-70B和WizardLM-30B-Uncensored在专家指导下生成。

Hugging Face2024-06-14 更新250