Anthropic/hh-rlhf
收藏AI_Studio2025-08-28 更新2025-04-05 收录
下载链接：
https://aistudio.baidu.com/datasetdetail/323318
下载链接
链接失效反馈官方服务：
资源简介：
引入Anthropic/hh-rlhf数据集
引入Anthropic的hh-rlhf数据集
应用场景：
提供机构：
旭_1994相关数据集
Anthropic/hh-rlhf
该数据集包含两种类型的数据：1) 关于帮助性和无害性的人类偏好数据，这些数据用于训练偏好模型或奖励模型，以便后续的RLHF训练；2) 人类生成和注释的红队对话数据，这些数据用于理解众包工作者如何红队模型以及哪些类型的红队攻击是成功的。数据集可能包含令人不适的内容，如歧视性语言、虐待、暴力、自残、剥削等话题，因此仅建议在个人风险承受范围内使用。数据集的目的是用于研究，特别是减少模型危害的研究。数据集
Hugging Face2023-05-26 更新2150
HH-RLHF dataset
The HH-RLHF dataset is used to evaluate the performance of the proposed Compositional Preference Models (CPMs).
DataCite Commons2026-01-07 更新00
hh-rlhf
# Dataset Card for HH-RLHF ## Dataset Summary This repository provides access to two different kinds of data: 1. Human preference data about helpfulness and harmlessness from [Training a Helpful a
魔搭社区2026-05-23 更新230
HH-RLHF
数据在本文中进行了描述: 通过从人类反馈中进行强化学习来培训有用且无害的助手。如果您发现数据有用，请引用该论文。数据格式非常简单-jsonl文件的每一行都包含一对文本，一个 “选择” 和一个 “拒绝”。 为了有帮助，将数据分为三个部分分为训练/测试拆分: 从我们的基础模型 (上下文蒸馏的52B语言模型)，通过针对早期偏好模型的拒绝采样 (主要是16个最佳采样)，以及在我们迭代的 “在线” 过程中采
OpenXLab00
HH-RLHF
数据在本文中进行了描述: 通过从人类反馈中进行强化学习来培训有用且无害的助手。如果您发现数据有用，请引用该论文。数据格式非常简单-jsonl文件的每一行都包含一对文本，一个 “选择” 和一个 “拒绝”。 为了有帮助，将数据分为三个部分分为训练/测试拆分: 从我们的基础模型 (上下文蒸馏的52B语言模型)，通过针对早期偏好模型的拒绝采样 (主要是16个最佳采样)，以及在我们迭代的 “在线” 过程中采
OpenDataLab2026-07-05 更新110
