ZHZisZZ/imdb_preference

---
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
- split: test
path: data/test-*
dataset_info:
features:
- name: prompt
dtype: string
- name: responses
sequence: string
- name: scores
sequence: float64
- name: chosen
dtype: int64
splits:
- name: train
num_bytes: 26080900.0
num_examples: 20000
- name: validation
num_bytes: 5216180.0
num_examples: 4000
- name: test
num_bytes: 1304045.0
num_examples: 1000
download_size: 19096433
dataset_size: 32601125.0
---
# Dataset Card for "imdb_preference"

SFT model: https://huggingface.co/lvwerra/gpt2-imdb

Golden reward model (log_p(positive)-log_p(negative)): https://huggingface.co/lvwerra/distilbert-imdb

配置项：
- 配置名称：默认（default）
数据文件：
- 拆分集：训练集（train），路径：data/train-*
- 拆分集：验证集（validation），路径：data/validation-*
- 拆分集：测试集（test），路径：data/test-*
数据集信息：
特征字段：
- 字段名：提示词（prompt），数据类型：字符串（string）
- 字段名：回复（responses），数据类型：字符串序列
- 字段名：评分（scores），数据类型：64位浮点型序列（float64）
- 字段名：选中项（chosen），数据类型：64位整型（int64）
数据拆分：
- 拆分名称：训练集（train），字节数：26080900.0，样本数：20000
- 拆分名称：验证集（validation），字节数：5216180.0，样本数：4000
- 拆分名称：测试集（test），字节数：1304045.0，样本数：1000
下载大小：19096433，数据集总大小：32601125.0

--- 「imdb_preference」数据集卡片

监督微调（Supervised Fine-Tuning，SFT）模型：https://huggingface.co/lvwerra/gpt2-imdb

最优奖励模型（得分定义为正样本对数概率与负样本对数概率的差值）：https://huggingface.co/lvwerra/distilbert-imdb

原始信息汇总

数据集概述

数据集配置

• 默认配置：
  • 训练集：路径为 data/train-*
  • 验证集：路径为 data/validation-*
  • 测试集：路径为 data/test-*

数据集信息

• 特征：

  • prompt：字符串类型
  • responses：字符串序列
  • scores：浮点数序列
  • chosen：整数类型

• 数据分割：

  • 训练集：
    • 字节数：26080900.0
    • 样本数：20000
  • 验证集：
    • 字节数：5216180.0
    • 样本数：4000
  • 测试集：
    • 字节数：1304045.0
    • 样本数：1000

• 数据集大小：

  • 下载大小：19096433
  • 数据集大小：32601125.0