HachiML/Evol-hh-rlhf-gen3-1k

---
dataset_info:
features:
- name: No.
dtype: int64
- name: seed_id
dtype: int64
- name: generation
dtype: int64
- name: evol_history
sequence: string
- name: instruction
dtype: string
- name: output
dtype: string
splits:
- name: train
num_bytes: 2340124
num_examples: 1017
download_size: 1098508
dataset_size: 2340124
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
license: mit
task_categories:
- text-generation
language:
- ja
tags:
- synthetic
- evol-instruct
size_categories:
- 1K<n<10K
---
# Evol-hh-rlhf-gen3-1k

<!-- Provide a quick summary of the dataset. -->
Evol-hh-rlhf-gen3-1kは、
- [kunishou/hh-rlhf-49k-ja](https://huggingface.co/datasets/kunishou/hh-rlhf-49k-ja)をseed tasksとして
- [Evol-Instruction](https://arxiv.org/abs/2304.12244)の手法
- [mistralai/Mixtral-8x22B-Instruct-v0.1](https://huggingface.co/mistralai/Mixtral-8x22B-Instruct-v0.1)

で作った合成データ(Synthetic data)です。
モデルの利用には[Deepinfra](https://deepinfra.com/mistralai/Mixtral-8x22B-Instruct-v0.1/api?example=openai-python)を利用しています。

<!-- This dataset card aims to be a base template for new datasets. It has been generated using [this raw template](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/templates/datasetcard_template.md?plain=1). -->

## Dataset Details

### Dataset Description

<!-- Provide a longer summary of what this dataset is. -->

- **Curated by:** [HachiML](https://huggingface.co/HachiML)
- **Language(s) (NLP):** Japanese
- **License:** Apache 2.0
- **Github:** [Evol-Instruct-jp](https://github.com/Hajime-Y/Evol-Instruct-jp)

## Uses

<!-- Address questions around how the dataset is intended to be used. -->

```Python
# library
from datasets import load_dataset

# Load dataset.
dataset = load_dataset("HachiML/Evol-hh-rlhf-gen3-1k")
```

## Code

**Github:** [Evol-Instruct-jp](https://github.com/Hajime-Y/Evol-Instruct-jp)
にコードを置いています。このコードを元に、以下の設定で生成しました。

```Python
!python main.py \
--input_file "./data/hh-rlhf-49k-ja.jsonl" \
--output_file "./output/generated.json" \
--eliminated_file "./output/eliminated.json" \
--model "mistralai/Mixtral-8x22B-Instruct-v0.1" \
--num_instructions_to_generate 1000 \
--subset_size 100
```

1k recordsの生成はsubset37 で目標数に達しました。続きから生成を開始する際は start_subset_index=38 の設定が必要です。

原始信息汇总

数据集概述

数据集名称

• 名称: Evol-hh-rlhf-gen3-1k

数据集特征

• 特征列表:
  • No. (int64)
  • seed_id (int64)
  • generation (int64)
  • evol_history (sequence: string)
  • instruction (string)
  • output (string)

数据集拆分

• 拆分详情:
  • train:
    • 示例数量: 1017
    • 数据大小: 2340124字节

数据集大小

• 下载大小: 1098508字节
• 数据集大小: 2340124字节

配置信息

• 默认配置:
  • 数据文件路径: data/train-*

许可证

• 许可证: MIT

任务类别

• 任务类别: text-generation

语言

• 语言: Japanese

标签

• 标签:
  • synthetic
  • evol-instruct

大小类别

• 大小类别: 1K<n<10K