Felladrin/ChatML-ultrafeedback-binarized-preferences
收藏Hugging Face2024-02-10 更新2024-03-04 收录
下载链接：
https://hf-mirror.com/datasets/Felladrin/ChatML-ultrafeedback-binarized-preferences
下载链接
链接失效反馈官方服务：
资源简介：
该数据集名为argilla/ultrafeedback-binarized-preferences，采用ChatML格式，适用于HuggingFace TRL的DPO Trainer。数据集包含用户指令、选择的响应、拒绝的响应、来源、选择响应的平均评分、拒绝响应的平均评分以及选择模型等信息。通过提供的Python代码，可以加载数据集并进行格式化处理，最终保存为parquet文件。
该数据集名为argilla/ultrafeedback-binarized-preferences，采用ChatML格式，适用于HuggingFace TRL的DPO Trainer。数据集包含用户指令、选择的响应、拒绝的响应、来源、选择响应的平均评分、拒绝响应的平均评分以及选择模型等信息。通过提供的Python代码，可以加载数据集并进行格式化处理，最终保存为parquet文件。
提供机构：
Felladrin
原始信息汇总
数据集概述
数据集名称
- argilla/ultrafeedback-binarized-preferences
数据集格式
- ChatML 格式
数据集用途
- 适用于 HuggingFace TRLs DPO Trainer
数据集大小
- 10K<n<100K
数据集语言
- 英语
数据集转换代码
python from datasets import load_dataset
dataset = load_dataset("argilla/ultrafeedback-binarized-preferences", split="train")
def format(columns): return { "prompt": f"<|im_start|>user {columns[instruction]}<|im_end|> <|im_start|>assistant ", "chosen": f"{columns[chosen_response]}<|im_end|>", "rejected": f"{columns[rejected_response]}<|im_end|>", }
dataset.map(format).select_columns([prompt, chosen, rejected, source, chosen_avg_rating, rejected_avg_rating, chosen_model]).to_parquet("train.parquet")
