llm-wizard/dolly-15k-instruction-alpaca-format

`databricks-dolly-15k`数据集包含超过15,000条记录，由Databricks员工生成，旨在使大型语言模型能够展示类似ChatGPT的交互性。数据集分为八个不同的指令类别，包括创意写作、封闭问答、开放问答、总结、信息提取、分类和头脑风暴。数据集的主要用途是用于指令微调大型语言模型，并提供了合成数据生成的机会。数据集的语言为美式英语，已知限制包括Wikipedia的偏见和事实错误，以及注释者的非母语英语背景。数据集使用CC BY-SA 3.0许可证。

The `databricks-dolly-15k` dataset comprises over 15,000 records generated by Databricks employees, developed to enable large language models (LLMs) to demonstrate ChatGPT-like interactive capabilities. The dataset is divided into eight distinct instruction categories, including creative writing, closed-domain question answering, open-domain question answering, summarization, information extraction, classification, and brainstorming. Its primary use cases are instruction tuning for large language models, and it also offers opportunities for synthetic data generation. The dataset uses American English. Known limitations include biases and factual errors in Wikipedia, as well as the non-native English background of the annotators. The dataset is licensed under CC BY-SA 3.0.

原始信息汇总

数据集概述

数据集名称

• 名称: Databricks Dolly 15k (Alpaca format, citations removed)
• 别名: databricks-dolly-15k

数据集特征

• 特征名称: instruction, category, input, output
• 数据类型: 均为字符串类型

数据集大小

• 下载大小: 7801648字节
• 数据集大小: 12271354字节
• 示例数量: 15015
• 分割: 训练集

语言

• 主要语言: 英语

许可

• 许可证: CC BY-3.0

数据集类别

• 大小类别: 10K<n<100K

数据集来源

• 数据生成: 由Databricks员工生成
• 参考文本: 部分数据参考自Wikipedia

数据集用途

• 主要用途: 用于指令微调大型语言模型，以及作为合成数据生成的资源

数据集限制

• 已知限制: 可能包含Wikipedia的偏见、事实错误和主题焦点；部分标注者可能非英语母语者；标注者的背景可能反映Databricks员工的构成

标注指南

• 标注任务: 包括创意写作、封闭式问答、开放式问答、摘要、信息提取、分类、头脑风暴等八种不同指令类别
• 标注指南: 提供了每种任务的简要描述和示例，以鼓励高任务完成率

个人或敏感数据

• 数据内容: 包含公开信息，如部分Wikipedia内容，无个人标识或敏感信息

搜集汇总

数据集介绍

构建方式

该数据集源自Databricks公司内部发起的众包项目，旨在构建首个开源、可商用的人类指令数据集。数千名Databricks员工受邀在八个指令类别中创建提示与回答对，涵盖InstructGPT论文中的七类任务及一个开放式自由类别。构建过程中，贡献者被要求避免使用除维基百科外的任何网络信息，并严禁借助生成式AI生成内容。数据生成中期，贡献者可选择回答他人提出的问题，但需重新表述原问题并确保自身能准确作答。针对特定类别，贡献者需从维基百科复制参考文本，其中可能包含需移除的引用编号。最终数据集包含15,015条训练样本，以Alpaca格式重新组织，并剔除了原始引用标记。

使用方法

该数据集最直接的应用方向是用于大型语言模型的指令微调，以增强模型遵循人类指令的交互能力。研究者可直接将数据集加载为训练集，利用其丰富的指令类别进行多任务学习。此外，数据集可作为自指令生成方法的种子样本，通过将人类生成的提示作为少样本示例输入至大型开源模型，合成百万级规模的指令数据。数据增强方面，可借助释义模型对提示或回答进行改写，生成正则化变体，提升模型鲁棒性。使用时应移除参考文本中的维基百科引用编号，避免引入噪声。数据集已上传至HuggingFace，可通过datasets库轻松加载，字段设计清晰，适配主流训练框架。

背景与挑战

背景概述

2023年，由Databricks公司主导构建的Dolly 15k数据集正式发布，旨在为大语言模型提供高质量的人工标注指令微调语料。该数据集由数千名Databricks员工参与生成，涵盖创意写作、封闭问答、开放问答、摘要、信息抽取、分类、头脑风暴等八个指令类别，其中七个源自InstructGPT论文定义的行为框架。作为首个开源且允许商业用途的人工指令数据集，它填补了当时学术界与工业界在指令微调数据上的空白，尤其为复现ChatGPT级交互能力提供了关键资源。数据集以Alpaca格式重新整理后发布，移除了原始维基百科引用编号，使其更易于直接用于模型训练。Dolly 15k的诞生不仅推动了指令微调技术的民主化，还为后续合成数据生成与数据增强研究奠定了重要基础，在开源大模型生态中具有里程碑意义。

当前挑战

Dolly 15k数据集面临的核心挑战首先来自领域问题层面：指令微调任务要求模型在多样化指令类别中展现通用且鲁棒的跟随能力，然而数据集中各类别样本分布不均、部分类别（如封闭问答）依赖维基百科片段作为上下文，导致模型可能过度记忆特定语料而泛化不足。其次，构建过程中的挑战尤为突出：标注指南设计简洁以鼓励参与，却牺牲了严格的一致性，不同标注者对同一任务的理解偏差可能引入噪声；标注者多为Databricks员工，其人口统计特征与知识偏好可能使数据隐含系统性偏差；维基百科作为外部知识源本身包含事实错误与偏见，且标注者被要求避免使用生成式AI辅助，但人工标注的疲劳与主观性仍难以完全规避。此外，数据集的英文单语属性限制了其在多语言场景下的适用性，而移除引用编号虽简化格式，却可能削弱模型对来源可信度的判断能力。

常用场景

经典使用场景

该数据集最经典的使用场景在于对大型语言模型进行指令微调（instruction fine-tuning），使其能够展现出类似ChatGPT的交互式智能。通过提供超过15,000条由人类标注员生成的指令-响应对，覆盖创意写作、封闭式问答、开放式问答、摘要生成、信息抽取、分类和头脑风暴等八类任务，研究者可基于此数据集训练模型遵循复杂的人类指令，显著提升模型在多样化自然语言任务上的泛化能力与可控性。

解决学术问题

该数据集解决了学术界在指令微调领域缺乏高质量、开放许可、完全由人类生成且覆盖多类别任务的语料库这一关键问题。与依赖于合成数据或受限商业许可的数据集不同，Dolly-15k为研究提供了可自由使用、修改和扩展的基准，使得探究不同指令类型对模型行为的影响、分析人类偏好标注的噪声特性以及开发更鲁棒的指令跟随算法成为可能，从而推动了开放语言模型研究的发展。

实际应用

在实际应用中，基于该数据集微调的模型可被部署于智能客服系统，实现精准的封闭式问答与信息抽取；在内容创作平台中，模型能根据用户给出的具体约束生成创意文案或摘要；此外，该数据集还可助力构建知识检索增强的对话系统，通过结合外部知识库与指令跟随能力，提供更准确和多样化的回答，从而在商业场景中降低人工干预成本并提升用户体验。

数据集最近研究

最新研究方向

在当前大型语言模型（LLM）微调研究的前沿，llm-wizard/dolly-15k-instruction-alpaca-format数据集因其高质量的人工生成指令-响应对而备受关注。该数据集由Databricks员工精心构建，涵盖了创意写作、封闭式问答、信息抽取等八类任务，与InstructGPT论文中提出的指令类别高度契合，为提升LLM的交互式对话能力提供了关键训练资源。近期研究热点集中于利用此数据集进行指令微调，以复现或超越ChatGPT的交互性能，同时探索其在自指令生成（Self-Instruct）和数据增强中的应用，例如通过少样本提示生成大规模合成数据或利用释义模型增强鲁棒性。该数据集的开源商业化许可（CC BY-SA 3.0）打破了非商业使用的限制，推动了学术界和工业界在指令遵循模型上的协作创新，成为连接人工标注与自动化合成数据生成的重要桥梁，对降低LLM微调成本、促进开放研究具有深远意义。