arcee-ai/BAAI-Infinity-Instruct-System

Infinity Instruct数据集是一个大规模、高质量的指令数据集，旨在提升模型在复杂下游任务中的表现。数据集包含基础数据集和聊天数据集，分别用于提升模型在代码、数学等任务中的表现和增强模型在真实对话场景中的指令遵循能力。数据集的构建过程包括指令选择、指令演化、模型能力缺陷诊断等策略。数据集来源于多个开源社区，包括OpenHermes-2.5、UltraInteract_sft、CodeBagel等。数据集版本包括InfInstruct-3M、InfInstruct-0608、InfInstruct-0612、InfInstruct-0613等。

The Infinity Instruct dataset is a large-scale, high-quality instruction dataset designed to enhance model performance on challenging downstream tasks. The dataset includes foundational and chat datasets, aimed at improving model performance in tasks such as code and math, and enhancing instruction-following ability in real conversation scenarios. The dataset construction process involves strategies such as instruction selection, instruction evolution, and model ability deficiency diagnosis. The dataset is sourced from various open-source communities, including OpenHermes-2.5, UltraInteract_sft, CodeBagel, etc. Dataset versions include InfInstruct-3M, InfInstruct-0608, InfInstruct-0612, InfInstruct-0613, etc.

原始信息汇总

Infinity Instruct 数据集概述

数据集基本信息

• 任务类别: 文本生成
• 语言: 英语、中文
• 数据规模: 1M<n<10M

数据集修改

• 原始数据集包含383,697个样本，使用"gpt"标签代替"system"标签。
• 56个样本中存在空值，已进行标签重命名和空值样本移除。

数据集介绍

• 目标: 构建大规模、高质量的指令数据集。
• 数据构建策略: 使用开源数据作为种子，通过指令选择和指令进化两种策略迭代数据集。

数据集版本

• 基础数据集: InfInstruct-3M
• 聊天数据集: InfInstruct-0608, InfInstruct-0612, InfInstruct-0613

数据来源

• 从开源社区收集大量指令数据，包括多个数据集如OpenHermes-2.5、UltraInteract_sft等。

数据集详细信息

• 原始数据集: 包含多个子数据集，总数为3,463,473行。
• 主观指令数据集: 包含多个子数据集，总数为1,362,000行。

指令选择与生成

• 指令选择: 使用Flan和OpenHermes等数据集，增强代码和数学能力。
• 指令生成: 通过数据进化策略和模型能力缺陷诊断生成高质量指令。

免责声明

• 本项目资源仅限学术研究使用，不得用于商业用途。
• 模型输出受随机性影响，不保证输出内容的准确性。

搜集汇总

数据集介绍

构建方式

在大语言模型指令微调领域，数据规模与质量是决定模型性能的关键因素。为突破开源社区长期面临的高昂数据构建成本瓶颈，北京智源人工智能研究院（BAAI）推出了Infinity Instruct数据集。该数据集通过汇聚开源社区中的海量指令数据作为种子，采用指令选择与指令进化双轨策略进行迭代构建。具体而言，基础数据集从OpenHermes-2.5、MathInstruct、CodeBagel等多个高质量开源数据源中经过去重与筛选，汇聚成包含约346万条指令的InfInstruct-3M版本。对话数据集则从精选的高质量种子数据出发，沿广度、深度、难度和复杂度四个维度进行进化扩展，并借助AI助手生成多轮对话，最终形成0608、0612、0613等迭代版本。此外，研究团队还设计了模型能力缺陷诊断机制，自动识别模型弱点并指导数据合成，从而针对性地弥补能力短板。

特点

该数据集最显著的特点在于其百万级的大规模与系统化的高质量保障。Infinity Instruct不仅提供了涵盖代码、数学等挑战性下游任务的基础数据集，还专门构建了约100万条指令的对话数据集，以强化模型在真实对话场景中的指令跟随能力。数据集通过精细的标签系统对每条指令进行能力与知识维度的标注，实现了内容分布的精准识别。在指令选择环节，研究团队优先选取需要多种能力或长尾知识的指令，并采用基于困难度评估的方法筛选高难度样本，确保数据的多样性与信息性。同时，数据经过严格的去重与质量过滤，如将原始数据中错误标记的“gpt”标签统一修正为“system”标签并剔除空值样本，保证了数据格式的规范性与完整性。实验证明，基于该数据集微调的InfInstruct-Mistral-7B模型在AlpacaEval 2.0上取得了25.5%的胜率，性能媲美Mixtral 8x7B与GPT-3.5。

使用方法

该数据集以HuggingFace格式发布，用户可通过`datasets`库便捷加载。数据集主要分为基础数据集（InfInstruct-3M）和对话数据集（包含0608、0612、0613版本），用户可根据任务需求灵活选用：针对代码、数学等需要强推理能力的下游任务，推荐优先使用基础数据集进行微调；若旨在提升模型在真实对话中的指令跟随能力，则建议采用对话数据集进行进一步优化。数据集采用标准的text-generation任务格式，包含英文与中文双语指令，支持直接用于监督微调（SFT）。使用时需注意，该数据集仅限学术研究用途，不可用于商业目的。用户加载数据后，可结合自身模型架构与训练框架，将指令与响应配对构建训练样本，并依据评估指标（如MT-Bench、AlpacaEval 2.0）验证微调效果。

背景与挑战

背景概述

在大型语言模型（LLM）的快速发展中，指令微调数据的质量与规模已成为决定模型性能的关键因素。近年来，开源社区虽涌现出大量微调数据集，但构建兼具海量规模与卓越质量的指令数据仍面临高昂成本与技术壁垒。为突破这一瓶颈，北京智源人工智能研究院（BAAI）于2024年推出了Infinity Instruct项目，旨在通过系统化的数据筛选与生成策略，打造一个包含千万级高质量指令样本的数据集。该数据集由Arcee.ai进行二次优化，修正了标签不一致与空值问题，其核心研究问题聚焦于如何通过指令选择与进化方法提升模型在复杂下游任务（如代码生成、数学推理）及真实对话场景中的指令遵循能力。Infinity Instruct在AlpacaEval 2.0等基准测试中展现了优异表现，甚至在某些指标上超越了Mixtral 8x7B与GPT-3.5，为开源社区提供了极具影响力的资源。

当前挑战

Infinity Instruct所面对的挑战主要体现在两个层面。首先，在领域问题层面，现有指令数据集常因规模不足或质量参差而难以支撑模型在代码、数学等专业任务上的泛化能力，亟需一种能同时兼顾数据广度与深度的构建范式。其次，在构建过程中，团队需解决多重技术难题：如何从海量开源数据中高效筛选出最具信息量的指令，如何通过进化策略在广度、深度、难度与复杂性四个维度上自动扩充数据，以及如何诊断模型能力缺陷并定向合成数据以弥补短板。此外，数据去重、标签系统设计、多轮对话生成的质量控制，以及确保数据合规性的伦理考量，均构成了构建过程中的严峻挑战。

常用场景

经典使用场景

在自然语言处理与大型语言模型研究领域，BAAI-Infinity-Instruct-System 数据集被广泛用于监督式微调与指令跟随能力的训练。其核心应用场景在于为基座模型提供百万级别的高质量指令-响应对，通过指令选择与指令演化两大策略，显著增强模型在数学推理、代码生成等复杂下游任务上的表现。研究者常将其作为基础训练集，结合不同版本（如InfInstruct-3M、0613版）探索模型能力的边界，尤其是在MT-Bench与AlpacaEval 2.0等基准评测中验证指令微调效果的提升。

解决学术问题

该数据集直面开源社区长期以来因构建大规模、高质量指令微调数据集的高昂成本而受限的困境。它系统性地解决了指令数据稀缺与质量参差不齐的学术难题，通过融合来自OpenHermes、CodeBagel等十余个开源来源的数据，并借助标签系统与能力缺陷诊断机制，实现了对指令信息量的精准筛选与演化。其意义在于为学术界提供了可复现的规模化指令微调范式，推动了无RLHF场景下模型性能的跃升，尤其是让7B参数量级的模型在多个基准上逼近甚至超越GPT-3.5等更大规模模型。

衍生相关工作

该数据集衍生了一系列具有影响力的研究工作。最直接的是BAAI团队基于其微调的InfInstruct-Mistral-7B与InfInstruct-Llama-3-70B系列模型，这些模型在AlpacaEval 2.0上持续刷新性能记录，成为开源社区指令微调的标杆。此外，数据构建中采用的指令演化策略源于WizardLM方法，而指令选择机制则借鉴了Superfiltering的弱到强过滤思想，两者结合催生了新的数据筛选范式。后续工作如针对模型能力缺陷的自动诊断与针对性数据合成，也为自适应微调研究开辟了新方向，激励了更多关于数据质量与模型能力对齐的探索。