ReactiveAI/smol-smoltalk-mini-Interaction-SFT

ReactiveAI/Smol-Smoltalk-Mini Interaction SFT数据集是从HuggingFaceTB/smol-smoltalk派生出的，专为交互式监督微调设计的，适用于Reactive Transformer模型。该数据集只包含单个交互，不使用长期记忆，而是使用短期记忆存储之前的交互信息。数据集包含的每个交互被处理为独立的query和answer对。该数据集适用于小规模研究模型的训练，不适合生产模型使用。

The ReactiveAI/Smol-Smoltalk-Mini Interaction SFT dataset is derived from HuggingFaceTB/smol-smoltalk and is designed for interactive supervised fine-tuning, especially for Reactive Transformer models. This dataset contains only single interactions, does not use long-term memory, and instead uses short-term memory to store information from previous interactions. Each interaction in the dataset is processed as a separate pair of query and answer. The dataset is suitable for training small-scale research models and is not recommended for use in production models.

搜集汇总

数据集介绍

构建方式

该数据集源自 HuggingFaceTB/smol-smoltalk，通过抽取原始数据中 25% 的训练与验证样本构建而成。原始数据以 JSON 格式存储包含多轮对话的消息序列，而 Reactive Transformer 模型无法利用系统提示，因此构建过程中剔除了所有 system 角色的消息。具体而言，将原始对话中每对连续的 user 与 assistant 消息提取出来，分别映射为新数据集的 query 与 answer 字段，每条交互被视为独立样本，以适应模型在监督微调阶段尚未具备记忆能力的特性。数据集包含 validation 与 train 两个划分，分别拥有 13,434 和 257,560 条样本。

特点

该数据集专为 Reactive Transformer 模型在单轮交互场景下的监督微调而设计，具有鲜明的结构特点。每条记录由 query、answer 和 source 三个字段组成，其中 query 与 answer 分别对应原始对话中用户提问与模型回答的独立片段，彼此之间不存在上下文关联。source 字段保留了原始数据集的来源信息，便于追溯数据组成。数据集仅使用英文，采用 Apache-2.0 许可证，样本规模介于 10 万至 100 万之间，适用于小规模研究模型的训练。

使用方法

该数据集主要用于训练小规模研究模型，尤其适用于 Reactive Transformer 等基于单轮交互架构的模型进行监督微调。使用时，可直接加载 HuggingFace Datasets 库中的 ReactiveAI/smol-smoltalk-mini-Interaction-SFT，通过 query 字段作为输入、answer 字段作为目标进行序列到序列的生成任务训练。由于数据集中每条交互独立，无需考虑跨样本的语境依赖，简化了训练流程。建议参考原始 HuggingFaceTB/smoltalk 文档以获取更详细的组成信息，但需注意该数据集规模有限，不适合生产级模型的训练。

背景与挑战

背景概述

ReactiveAI/smol-smoltalk-mini-Interaction-SFT数据集诞生于2025年，由ReactiveAI团队基于HuggingFaceTB的smol-smoltalk数据集精炼而成，旨在支持一种名为Reactive Transformer的新型轻量级语言模型的概念验证与监督微调。该数据集聚焦于交互式监督微调范式，将原始多轮对话拆解为独立的“查询-回答”对，剔除了系统提示，以适配Reactive Transformer依赖短期记忆实时处理单次交互的独特架构。其核心研究问题在于探索如何在资源受限的小型模型（参数少于10亿）中实现高效、连贯的交互式学习，从而为边缘计算与实时应用场景提供可行方案。通过对SmolTalk子集进行25%采样并重构格式，该数据集为后续的Reactive Transformer模型（如RxT-Alpha-Mini）训练奠定了数据基础，在小型语言模型交互式微调领域展现出独特价值。

当前挑战

该数据集所面临的挑战主要体现在两个层面。在领域问题层面，其核心任务是解决小规模语言模型在交互式场景中的监督微调难题，即在缺乏完整上下文记忆的条件下，如何使模型仅凭单次查询生成准确且连贯的回答，这对模型的实时推理能力与知识泛化提出了严苛要求。在构建过程中，挑战首先源于对原始多轮对话数据的重构——需要将包含系统提示的复杂对话流拆解为孤立的问答对，同时确保信息不丢失且格式统一；其次，数据集规模有限（训练集约25.7万条），难以覆盖多样化的交互模式与领域知识，可能限制模型在复杂任务上的表现；此外，剔除了函数调用、高级数学等特殊任务数据，进一步压缩了数据丰富度，如何在有限容量内平衡通用性与专业性成为关键瓶颈。

常用场景

经典使用场景

ReactiveAI/smol-smoltalk-mini-Interaction-SFT数据集专为反应式Transformer模型的监督式微调而设计，其核心在于将原始对话数据拆解为独立的“查询-回答”交互对。这一设计完美契合了反应式模型实时处理单次交互、依赖短期记忆存储上下文信息的架构特点。在经典使用场景中，研究者利用该数据集对小型语言模型进行交互格式的适配训练，使模型学会在无系统提示的情况下，仅凭当前问题和内部记忆状态生成连贯且合理的回复，从而为构建高效、低延迟的对话系统奠定基础。

解决学术问题

该数据集有效解决了反应式语言模型在交互式监督微调阶段面临的数据格式适配难题。传统对话数据集通常包含多轮完整对话和系统提示，而反应式模型因架构限制无法直接利用此类结构化信息。通过将原始对话拆解为独立的交互单元，该数据集使研究者能够专注于训练模型在单步交互中的响应能力，同时探索短期记忆机制对上下文理解的增强作用。这一工作填补了小型反应式模型在指令微调领域的空白，为研究记忆增强型轻量级语言模型提供了标准化训练资源，推动了低资源场景下高效对话AI的学术探索。

衍生相关工作

该数据集衍生了一系列围绕反应式Transformer架构的经典工作，包括其完整版本ReactiveAI/smol-smoltalk-Interaction-SFT，以及基于此数据集训练的概念验证模型RxT-Alpha-Mini。这些工作进一步探索了短期记忆在小型语言模型中的实现方式，并验证了独立交互微调策略对模型性能的影响。此外，原始数据集来源SmolTalk和SmolLM2系列模型的研究，也为该数据集提供了理论支撑，相关论文《SmolLM2: When Smol Goes Big》详细阐述了数据驱动的小型语言模型训练范式，共同构成了反应式模型研究的重要基石。