Entreprenerdly/alpaca-cleaned

Alpaca-Cleaned是原始Alpaca数据集的清理版本，修复了包括幻觉、合并指令、空输出、空代码示例、生成图像指令、N/A输出、不一致输入字段、错误答案、非清晰指令、多余控制字符等问题。该数据集包含52,000个英文指令和演示，用于指令微调预训练语言模型，使其更好地遵循指令。

原始信息汇总

数据集概述

数据集名称: Alpaca-Cleaned

原始数据集: Alpaca

数据集描述: Alpaca-Cleaned 是斯坦福大学发布的原始 Alpaca 数据集的清理版本。该版本解决了原始数据集中的多个问题，包括幻觉现象、合并指令、空输出、空代码示例、生成图像的指令、N/A 输出、输入字段不一致、错误答案以及指令不清晰等问题。

数据集用途: 用于指令微调预训练语言模型，以提高模型遵循指令的能力。

数据集结构:

• 数据实例: 每个实例包含指令、可选输入、输出和格式化的文本。
• 数据字段:
  • instruction: 描述模型应执行的任务。
  • input: 任务的上下文或输入，约40%的实例包含此字段。
  • output: 由 text-davinci-003 生成的指令答案。
  • text: 使用作者提供的模板格式化的指令、输入和输出。

数据集语言: 英语 (BCP-47 en)

许可证: 创意共享非商业性许可 (CC BY-NC 4.0)

数据集问题修复详情

1. 幻觉现象: 原始数据集中许多指令引用互联网数据，导致GPT3产生幻觉答案。
2. 合并指令: 原始数据集中存在多个指令合并的情况。
3. 空输出: 原始数据集中部分条目输出为空。
4. 空代码示例: 原始数据集中部分描述缺少代码示例。
5. 生成图像的指令: 原始数据集中包含无法实现的生成图像指令。
6. N/A 输出: 原始数据集中部分代码片段输出标记为N/A。
7. 输入字段不一致: 原始数据集中输入字段的使用不一致。
8. 错误答案: 原始数据集中约80%的数学问题答案估计错误。
9. 指令不清晰: 原始数据集中存在不清晰或无意义的指令。
10. 多余转义和控制字符: 原始数据集中存在多余转义和控制字符。

数据集创建

数据生成引擎: text-davinci-003

数据生成方法:

• 使用 text-davinci-003 替代 davinci 生成指令数据。
• 采用新的提示模板，明确要求 text-davinci-003 生成指令。
• 使用更激进的批量解码，一次生成20条指令，显著降低数据生成成本。
• 简化数据生成流程，取消分类和非分类指令的区别。
• 每个指令仅生成一个实例，而非2到3个。

数据集大小: 52,000个指令示例

成本: 低于$500

注意事项

• 数据集由语言模型生成，可能包含错误或偏见。
• 使用时应谨慎，并建议提出新方法来过滤或改进不完美之处。