awesome-instruction-dataset

该仓库是一个开源指令调优数据集的集合，专门用于训练文本和多模态聊天大语言模型（如GPT-4、ChatGPT、LLaMA、Alpaca）。它收录了三种类型的数据集：视觉指令调优、文本指令调优以及红队测试或人类反馈强化学习数据集。合集覆盖多种语言（如英语、中文和多语言）、任务类型（多任务和特定任务）和生成方法（人类生成、自指令生成等），旨在为研究者和开发者提供全面的指令调优资源索引。

This repository is a collection of open-source instruction-tuning datasets, specifically designed for training text and multimodal conversational large language models such as GPT-4, ChatGPT, LLaMA, and Alpaca. It includes three categories of datasets: visual instruction tuning datasets, text instruction tuning datasets, and datasets for red teaming or reinforcement learning from human feedback (RLHF). This collection covers diverse languages (e.g., English, Chinese, and multilingual scenarios), various task types (multi-task and single-task), and multiple data generation methods including human-generated content and self-instruction generation, among others. Its aim is to provide researchers and developers with a comprehensive index of instruction tuning resources.

原始信息汇总

数据集总览

该仓库收集了用于训练基于指令的文本和多模态大语言模型（如GPT-4、ChatGPT、LLaMA、Alpaca）的开源指令微调数据集，主要分为三类：

• 视觉指令微调数据集：例如图像-指令-答案对。
• 文本指令微调数据集。
• 红队测试/基于人类反馈的强化学习（RLHF）数据集。

仓库中每个数据集条目通常包含以下元信息：数据规模、语言标签（EN/CN/ML）、任务标签（MT/TS）、生成方法标签（HG/SI/MIX/COL）以及对应的论文和许可协议。

视觉指令微调数据集

数据集名称	规模	语言	任务	生成方法	简介
Vision-CAIR/MiniGPT-4	5K	EN	MT	MIX	高质量、对齐良好的图像-文本数据集，通过两个机器人对话生成，用于视觉指令微调。
haotian-liu/LLaVA	150K	EN	MT	MIX	由GPT-4生成的多模态指令跟随数据，用于构建视觉指令调优模型。
sunrainyg/InstructCV	N/A	EN	MT	MIX	用于将文本到图像扩散模型指令调优为视觉通才的数据集。

文本指令微调数据集

数据集名称	规模	语言	任务	生成方法	简介
tatsu-lab/Alpaca	52K	EN	MT	SI	基于修改的self-instruct流水线和175个种子任务生成的指令数据。
gururise/Cleaned Alpaca	52K	EN	MT	SI	对Alpaca 52K数据集进行手动清洗的版本。
XueFuzhao/InstructionWild	52K	EN, CN	MT	SI	基于修改的self-instruct流水线和429个种子任务生成的指令数据。
JosephusCheung/GuanacoDataset	534K	ML	MT	SI	基于修改的self-instruct流水线生成的多语言指令数据。
Hello-SimpleAI/HC3	24K	EN	MT	MIX	首个人类与ChatGPT对比语料库（英文版）。
Hello-SimpleAI/HC3-Chinese	13K	CN	MT	MIX	首个人类与ChatGPT对比语料库（中文版）。
allenai/prosocial-dialog	58K	EN	MT	MIX	首个大规模多轮英文对话数据集，用于训练对话代理遵循社交规范。
allenai/natural-instructions	1.6K	ML	MT	HG	社区构建的包含1,616个多样化NLP任务及其自然语言定义的数据集。
bigscience/xP3	N/A	ML	MT	MIX	跨语言公共提示池，覆盖46种语言和16个NLP任务。
PhoebusSi/Alpaca-CoT	500k	ML	MT	COL	基于LLaMA和Alpaca的思维链推理数据集。
nomic-ai/gpt4all	437k	EN	MT	COL	整合了三个公开数据集（OIG、StackOverflow、bloomz-p3）的数据集。
teknium1/GPTeacher	20k+	EN	MT	SI	由GPT-4生成的模块化数据集集合，涵盖通用、角色扮演、代码和工具使用。
google-research/FLAN	N/A	EN	MT	MIX	Flan数据集集合，整合了Flan 2021、P3、Super-Natural Instructions等多个数据集。
thunlp/UltraChat	280k	EN	TS	MIX	大规模、多轮对话数据集，已发布“关于世界的问题”部分。
cascip/ChatAlpaca	10k	EN	MT	MIX	基于Alpaca数据扩展的多轮指令数据。
YeungNLP/firefly-train-1.1M	1100k	CN	MT	COL	包含23个任务的中文数据集，结合了人工编写的指令模板。
orhonovich/unnatural-instructions	240K	EN	MT	MIX	通过提示语言模型生成指令，并重述扩展得到的非自然指令数据集。
Instruction-Tuning-with-GPT-4/GPT-4-LLM	52K	EN, CN	MT	SI	由GPT-4基于Alpaca提示和中文翻译提示生成的指令数据。
databrickslabs/dolly	15K	EN	MT	HG	由Databricks员工生成的数据集，涵盖创意、分类、问答等多种行为类别。
OpenAssistant/oasst1	161K	ML	MT	HG	人工生成和标注的助手风格对话语料库，涵盖35种语言。
RyokoAI/ShareGPT52K	90K	ML	MT	SI	通过ShareGPT API爬取的约90,000条对话，包含用户提示和ChatGPT的回应。
zjunlp/Mol-Instructions	2043K	ML	MT	MIX	大规模生物分子指令数据集，包含分子、蛋白质和生物分子文本指令。

基于人类反馈的强化学习（RLHF）/ 红队测试数据集

数据集名称	规模	语言	任务	生成方法	简介
Anthropic/hh-rlhf	22k	EN	MT	MIX	包含22k条有用性比较的RLHF数据集，数据来自52B语言模型。
thu-coai/Safety-Prompts	100k	CN	MT	MIX	用于评估和提升LLM安全性的中文安全提示数据集。
HuggingFaceH4/stack-exchange-preferences	10741k	EN	TS	HG	来自Stack Overflow数据转储的问答对，用于偏好模型训练。
stanfordnlp/SHP	385k	EN	MT	HG	每个示例来自Reddit帖子，包含一个问题/指令和一对用户偏好不同的顶级评论。
Instruction-Tuning-with-GPT-4/GPT-4-LLM	52K	EN	MT	MIX	由GPT-4生成的指令数据，也用于RLHF。

搜集汇总

数据集介绍

构建方式

在大型语言模型（LLMs）蓬勃发展的时代背景下，指令微调与基于人类反馈的强化学习（RLHF）数据集成为了构建如ChatGPT这般强大对话模型的核心基石。该数据集的构建方式匠心独运，系统性地收集并整理了来自学术界与工业界的开源指令微调数据集，涵盖了文本指令微调、视觉指令微调以及红队测试/RLHF三大类别。每个数据集均被精心标注了规模、语言标签（如英文、中文、多语种）、任务类型（多任务或特定任务）及生成方法（人工生成、自指令、混合或集合）。例如，Alpaca数据集通过改进的自指令流水线，利用175个人工撰写的种子任务生成了52K条指令数据；而LLaVA则借助GPT-4生成了150K条多模态指令数据，用于视觉指令微调。

特点

该数据集最为显著的特点在于其全面性与结构化。它犹如一座精心设计的指令微调资源宝库，不仅囊括了从经典到前沿的数十个数据集，还通过统一的元数据标签系统（如语言、任务类型、生成方法）为用户提供了清晰的导航。例如，它既包含了52K规模的Alpaca英文数据集，也收录了1.1M规模的中文Firefly数据集；既有面向通用多任务的Natural Instructions，也有针对生物分子领域的Mol-Instructions。此外，数据集还特别关注了模型安全性，收录了如Safety-Prompts等红队测试数据集，体现了对LLM对齐研究的深刻洞察。这种多维度的分类体系使得研究者能够根据具体需求，快速定位并选择最合适的数据资源。

使用方法

使用该数据集进行指令微调研究极为便捷。研究者可以直接访问每个子数据集对应的GitHub或Hugging Face链接，获取原始数据文件。数据集的使用方法高度灵活：对于文本指令微调，可参考Alpaca或Dolly的微调流程；对于多模态任务，则可借鉴LLaVA或MiniGPT-4的视觉指令微调框架。每个数据集均附带了详细的摘要、生成模型、论文引用和许可证信息，便于学术引用与合规使用。例如，若需训练一个中文对话模型，可直接选用Firefly数据集；若需进行多语言指令微调，xP3或OASST1则是理想选择。数据集还提供了代码库链接，如awesome-totally-open-chatgpt，为模型训练提供了端到端的技术支持。

背景与挑战

背景概述

随着大规模语言模型（LLMs）的飞速发展，指令微调（Instruction Tuning）与基于人类反馈的强化学习（RLHF）已成为提升模型遵循指令能力与安全性的核心范式。在此背景下，awesome-instruction-dataset 项目应运而生，由多位研究者于2023年发起，旨在系统性地梳理并整合开源指令微调数据集。该项目涵盖了文本与多模态视觉指令数据集、RLHF数据集及红队测试数据集，其核心研究问题在于为构建类似ChatGPT的对话式LLM提供标准化、可复现的数据资源。通过收录如Alpaca、LLaVA、OpenAssistant等具有里程碑意义的数据集，该项目极大地降低了研究者的入门门槛，促进了指令微调技术的民主化与跨语言、跨模态的泛化研究，对领域内开源生态的繁荣产生了深远影响。

当前挑战

该数据集集合所面临的挑战主要集中在三个方面。首先，从领域问题看，指令微调数据集普遍面临质量与多样性的平衡难题：自动生成的指令（如Self-Instruct方法）虽规模庞大，但常存在噪声与逻辑偏差；而人工标注数据集成本高昂且难以覆盖长尾任务。其次，多模态指令数据集（如LLaVA）的构建需解决图像与文本语义对齐的精确性问题，以及如何生成细粒度、符合人类偏好的视觉指令。最后，从构建过程看，数据集的版权许可复杂多样（如CC BY-NC与Apache-2.0混用），限制了商业应用的兼容性；同时，RLHF数据集中的偏好标注往往存在主观性与不一致性，如何设计稳健的标注框架以提升模型对齐效果仍是关键瓶颈。

常用场景

经典使用场景

该数据集集合了丰富多样的指令微调资源，尤其适用于训练和优化基于大型语言模型的对话系统。其经典使用场景包括利用Alpaca、LLaVA等高质量指令数据对基础模型进行监督式微调，使其能够遵循复杂的人类指令，显著提升模型在开放域对话、多轮交互以及多模态理解任务中的表现。研究者常以此为基础，构建具备类ChatGPT能力的可对话智能体。

实际应用

在实际应用中，该数据集被广泛用于构建商业级和开源智能助手。例如，基于其包含的ShareGPT对话数据和RLHF偏好数据，开发者能够训练出更安全、更符合用户期望的客服机器人、教育辅导工具及内容生成系统。此外，视觉指令数据（如MiniGPT-4所用）催生了图像理解与描述辅助应用，而多语言数据则支撑了跨语言信息服务的落地，显著降低了定制化智能服务的技术门槛。

衍生相关工作

该数据集衍生了一系列影响深远的经典工作。例如，LLaVA模型基于其视觉指令数据开创了多模态指令调优范式，Alpaca-CoT数据集则融合了思维链推理数据推动了复杂推理能力的提升。此外，基于HC3人机对比语料衍生出了机器生成文本检测研究，而Safety-Prompts数据集催生了大语言模型安全性与红队测试的系统性评估框架。这些工作共同构成了当前大模型能力增强与安全对齐的基石。