mkd-chanwoo/keural-DPO-raw

keural-DPO的预处理前标准化原始数据。未经任何过滤，保留原始状态，旨在提供可复现性。

语言：
- en → 英语
- ko → 韩语
许可证：
- mit → MIT许可证
- apache-2.0 → Apache-2.0许可证
- other → 其他
样本量范围：
- 100K<n<1M → 10万至100万条数据
任务类别：
- text-generation → 文本生成
标签：
- dpo → 直接偏好优化（DPO）
- preference → 偏好
- rlhf → 基于人类反馈的强化学习（RLHF）
- korean → 韩语
- bilingual → 双语
- raw → 原始数据
展示名称：keural-DPO-raw
配置项：
- 配置名称：default
数据文件：
- 拆分集：ultrafeedback，路径：data/ultrafeedback.jsonl
- 拆分集：multifaceted_dpo，路径：data/multifaceted_dpo.jsonl
- 拆分集：hh_rlhf，路径：data/hh_rlhf.jsonl
- 拆分集：orca_dpo_ko，路径：data/orca_dpo_ko.jsonl
- 拆分集：aihub_71748，路径：data/aihub_71748.jsonl
- 拆分集：aihub_71760，路径：data/aihub_71760.jsonl

# keural-DPO-raw

本数据集为**keural-DPO**数据集的未预处理、未归一化的原始版本。我们完整保留原始数据未做任何过滤，以保障实验可复现性。

若需使用经过ChatML格式转换与过滤处理的训练数据，请使用**[mkd-chanwoo/keural-DPO](https://huggingface.co/datasets/mkd-chanwoo/keural-DPO)** 数据集。

## 数据集统计

| 拆分集 | 样本量 | 语言 | 许可证 | 数据源 |
|---|---|---|---|---|
| `ultrafeedback` | 61,054 | 英语 | MIT | [HuggingFaceH4/ultrafeedback_binarized](https://huggingface.co/datasets/HuggingFaceH4/ultrafeedback_binarized) |
| `multifaceted_dpo` | 65,139 | 英/韩 | Apache-2.0 | [kaist-ai/Multifaceted-Collection-DPO](https://huggingface.co/datasets/kaist-ai/Multifaceted-Collection-DPO) |
| `hh_rlhf` | 160,608 | 英语 | MIT | [Anthropic/hh-rlhf](https://huggingface.co/datasets/Anthropic/hh-rlhf) |
| `orca_dpo_ko` | 12,727 | 韩语 | 无 | [Ja-ck/Orca-DPO-Pairs-KO](https://huggingface.co/datasets/Ja-ck/Orca-DPO-Pairs-KO) |
| `aihub_71748` | 29,676 | 韩语 | AI Hub | [AI Hub 71748](https://www.aihub.or.kr/aihubdata/data/view.do?dataSetSn=71748) |
| `aihub_71760` | 116,320 | 韩语 | AI Hub | [AI Hub 71760](https://www.aihub.or.kr/aihubdata/data/view.do?dataSetSn=71760) |
| **总计** | **445,524** | | | |

## 数据格式

所有拆分集的通用字段如下：

| 字段名 | 数据类型 | 字段说明 |
|---|---|---|
| `prompt` | `str` | 首个用户提问 |
| `chosen` | `str` 或 `list[dict]` | 选中的响应。对于`hh_rlhf`拆分集，该字段存储完整的多轮对话路径，格式为`list[dict]` |
| `rejected` | `str` 或 `list[dict]` | 被拒的响应。对于`hh_rlhf`拆分集，该字段存储完整的多轮对话路径，格式为`list[dict]` |
| `source` | `str` | 原始数据集名称 |

> 注：`hh_rlhf`拆分集的`chosen`与`rejected`字段以`[{"role": ..., "content": ...}, ...]`的格式存储完整的多轮对话内容。

## 许可证说明

各拆分集的许可证遵循其原始数据集的规定。
AI Hub相关数据集（`aihub_71748`、`aihub_71760`）需遵守[AI Hub使用条款](https://www.aihub.or.kr/intro/policy.do)并获得使用授权后方可使用。
进行商业使用前，请务必确认各原始数据集的许可证要求。