PKU-Alignment/PKU-SafeRLHF-10K

该数据集是一个用于文本生成任务的英语数据集，重点关注AI安全，包括安全标签和人类反馈，大小在10K到100K之间。

许可协议：知识共享署名-非商业性使用4.0国际许可协议（CC BY-NC 4.0）
任务类别：
- 文本生成
语言：
- 英语
标签：
- 安全
- 安全性
- 人工智能安全（AI Safety）
- 大语言模型（LLM）
- 语言模型（LM）
- 人类反馈
- 基于人类反馈的强化学习（RLHF）
- 安全型基于人类反馈的强化学习（Safe-RLHF）
样本量区间：
- 1万 < 样本量 < 10万

## 论文
你可通过以下论文查阅该数据集的更多详细信息：
- **数据集论文**：<https://arxiv.org/abs/2307.04657>

原始信息汇总

数据集概述

• 许可证: cc-by-nc-4.0
• 任务类别: 文本生成
• 语言: 英语
• 标签: 安全, 安全性, AI安全, 大型语言模型, 语言模型, 人类反馈, 强化学习与人类反馈, 安全强化学习与人类反馈
• 大小类别: 10K<n<100K

相关文献

• 数据集论文: arXiv:2307.04657