ethz-spylab/hh-harmless-train-with-rewards
收藏Hugging Face2024-02-08 更新2024-03-04 收录
下载链接：
https://hf-mirror.com/datasets/ethz-spylab/hh-harmless-train-with-rewards
下载链接
链接失效反馈官方服务：
资源简介：
该数据集是来自Anthropic/hh-rlhf数据集的harmless-base分割的一个实例。所有条目都使用自定义的奖励模型分配了奖励。这使得我们能够识别最有害的生成内容，并在论文中提出的oracle攻击中使用这些内容来毒害模型。
该数据集是来自Anthropic/hh-rlhf数据集的harmless-base分割的一个实例。所有条目都使用自定义的奖励模型分配了奖励。这使得我们能够识别最有害的生成内容，并在论文中提出的oracle攻击中使用这些内容来毒害模型。
提供机构：
ethz-spylab
原始信息汇总
数据集概述
数据集特征
- chosen: 数据类型为字符串（string）
- rejected: 数据类型为字符串（string）
- chosen_reward: 数据类型为浮点数（float32）
- rejected_reward: 数据类型为浮点数（float32）
- correct: 数据类型为布尔值（bool）
- difference: 数据类型为浮点数（float32）
数据集分割
- train:
- 数据大小: 56811404字节
- 示例数量: 42537
数据集大小
- 下载大小: 32032368字节
- 数据集总大小: 56811404字节
