Felladrin/ChatML-H4rmony_dpo

---
license: mit
task_categories:
- question-answering
- text-classification
- reinforcement-learning
- text-generation
tags:
- ecolinguistics
- ecology
- sustainability
- environment
- synthetic
size_categories:
- 1K<n<10K
---

[neovalle/H4rmony_dpo](https://huggingface.co/datasets/neovalle/H4rmony_dpo) in ChatML format, ready to use in [HuggingFace TRL's DPO Trainer](https://huggingface.co/docs/trl/main/en/dpo_trainer).

Python code used for conversion:

```python
from datasets import load_dataset

dataset = load_dataset("neovalle/H4rmony_dpo", split="train")

def format(columns):
return {
"prompt": f"<|im_start|>user\n{columns['prompt']}<|im_end|>\n<|im_start|>assistant\n",
"chosen": f"{columns['chosen']}<|im_end|>",
"rejected": f"{columns['rejected']}<|im_end|>",
}

dataset.map(format).to_parquet("train.parquet")
```

许可证：MIT许可证
任务类别：
- 问答
- 文本分类
- 强化学习
- 文本生成
标签：
- 生态语言学（ecolinguistics）
- 生态学
- 可持续性
- 环境
- 合成数据集
规模类别：
- 1000 < 样本量 < 10000

本数据集为[neovalle/H4rmony_dpo](https://huggingface.co/datasets/neovalle/H4rmony_dpo)，采用ChatML格式，可直接用于[HuggingFace TRL的DPO训练器](https://huggingface.co/docs/trl/main/en/dpo_trainer)。

用于格式转换的Python代码如下：
python
from datasets import load_dataset

dataset = load_dataset("neovalle/H4rmony_dpo", split="train")

def format(columns):
return {
"prompt": f"<|im_start|>user
{columns['prompt']}<|im_end|>
<|im_start|>assistant
",
"chosen": f"{columns['chosen']}<|im_end|>",
"rejected": f"{columns['rejected']}<|im_end|>",
}

dataset.map(format).to_parquet("train.parquet")

原始信息汇总

数据集概述

基本信息

• 许可证: MIT
• 任务类别:
  • 问答
  • 文本分类
  • 强化学习
  • 文本生成
• 标签:
  • 生态语言学
  • 生态学
  • 可持续性
  • 环境
  • 合成
• 大小类别: 1K<n<10K

数据格式

• 数据集名称: neovalle/H4rmony_dpo
• 格式: ChatML
• 适用工具: HuggingFace TRLs DPO Trainer

数据转换代码

python from datasets import load_dataset

dataset = load_dataset("neovalle/H4rmony_dpo", split="train")

def format(columns): return { "prompt": f"<|im_start|>user {columns[prompt]}<|im_end|> <|im_start|>assistant ", "chosen": f"{columns[chosen]}<|im_end|>", "rejected": f"{columns[rejected]}<|im_end|>", }

dataset.map(format).to_parquet("train.parquet")