verl-team/Anthropic-hh-rlhf-rm-preprocessed

Name: verl-team/Anthropic-hh-rlhf-rm-preprocessed
Creator: verl-team
Published: 2025-01-30 21:39:09
License: 暂无描述

Hugging Face2025-01-30 更新2025-02-15 收录

下载链接：

https://hf-mirror.com/datasets/verl-team/Anthropic-hh-rlhf-rm-preprocessed

下载链接

链接失效反馈

官方服务：

资源简介：

--- license: mit ---

提供机构：

verl-team

verl-team/lighteval-MATH-preprocessed

--- license: mit ---

Hugging Face2025-01-30 更新20

verl-team/openai-gsm8k-preprocessed

--- license: mit ---

Hugging Face2025-01-30 更新10

Anthropic/hh-rlhf

该数据集包含两种类型的数据：1) 关于帮助性和无害性的人类偏好数据，这些数据用于训练偏好模型或奖励模型，以便后续的RLHF训练；2) 人类生成和注释的红队对话数据，这些数据用于理解众包工作者如何红队模型以及哪些类型的红队攻击是成功的。数据集可能包含令人不适的内容，如歧视性语言、虐待、暴力、自残、剥削等话题，因此仅建议在个人风险承受范围内使用。数据集的目的是用于研究，特别是减少模型危害的研究。数据集

Hugging Face2023-05-26 更新2150

TheHassanSaud/Anthropic_hh_rlhf_preprocessed

--- dataset_info: features: - name: prompt dtype: string - name: chosen dtype: string - name: rejected dtype: string splits: - name: train num_bytes: 203846083 num_exam

Hugging Face2026-04-24 更新20

Anthropic/hh-rlhf

引入Anthropic/hh-rlhf数据集

AI_Studio2025-08-28 更新10