MMR1/MMR1-SFT

MMR1-SFT是一个大规模的、经过精心策划的视觉-语言长链式思维（CoT）数据集，用于冷启动的多模态推理模型的监督微调。该数据集包含约160万个带有经过验证的长CoT推理和简短答案的多模态问答示例。数据集的领域主要包括数学（大多数）、科学、图表/图形、文档/表格和一般领域。数据集的目的是为推理导向的多模态大型语言模型（MLLM）提供一个开放的、可复制的冷启动语料库，具有长的链式思维。数据集的结构包括对话和图像两部分，对话部分包含人类和gpt的交流回合，图像部分包含与视觉内容相关的相对路径。

MMR1-SFT is a large-scale, carefully curated vision-language long chain-of-thought (CoT) dataset for cold-start supervised fine-tuning of multimodal reasoning models. The dataset contains approximately 1.6 million multimodal QA examples with verified long CoT rationales and short answers. The domains include Math (majority), Science, Chart/Figure, Doc/Table, and General. The purpose of the dataset is to provide an open, reproducible cold-start corpus with long CoTs for reasoning-oriented MLLMs. The data structure includes conversations and images, where conversations contain human and gpt dialogue turns, and images include relative paths to associated visual content.

搜集汇总

数据集介绍

构建方式

在多模态大语言模型推理能力的研究中，缺乏高质量的长思维链监督微调数据集是制约模型性能提升的关键瓶颈。MMR1-SFT数据集旨在填补这一空白，其构建过程融合了先进的语言模型与严谨的质量控制流程。首先，从公开的视觉语言指令数据集及考试风格语料中收集海量提示，覆盖数学、科学、图表、文档表格及通用领域。随后，利用Gemini-2.5 Pro/Flash模型生成长篇思维链推理过程，并通过GPT-4o进行答案验证，确保推理路径的准确性与完整性。通过通过率过滤，仅保留中等及以上难度的样本，并针对科学、图表等非数学领域进行额外数据平衡，最终构建出约160万条包含验证后长思维链的多模态问答对。

特点

该数据集的核心特色在于其规模与质量的双重保障，为多模态推理模型的冷启动训练提供了坚实基础。数据总量约160万，其中数学领域占据主导，同时精心补充了科学、图表、文档表格及通用领域样本，确保了领域的广泛覆盖与平衡。所有推理过程均由顶尖语言模型生成并经过交叉验证，具备长链式、结构化与自纠错特性，以<think>和<answer>标签清晰分离推理步骤与最终答案。这种格式不仅促进了模型对复杂逻辑的模仿学习，还为后续强化学习阶段提供了优质的初始化轨迹，使模型在推理对齐与长程思考能力上实现显著提升。

使用方法

MMR1-SFT数据集专为多模态大语言模型的监督微调而设计，尤其适用于冷启动场景下的格式对齐与长思维链轨迹学习。使用时，可直接加载sft.json文件，其中每条数据包含多轮对话及关联图像路径。人类指令以包含<image>占位符的模板形式呈现，模型回答则需遵循<think>推理过程</think><answer>最终答案</answer>的结构化格式。研究者可将此数据集作为强化学习前的预热阶段，通过全量微调或参数高效微调方法，使模型掌握生成显式推理步骤的能力，从而为后续基于方差感知采样等强化学习策略的优化奠定基础。

背景与挑战

背景概述

多模态大语言模型（MLLMs）在视觉与语言融合的推理任务中展现出巨大潜力，然而其推理能力的提升高度依赖于高质量、长链思维（Long CoT）数据的可用性。现有数据集往往侧重于简单的问答或短程推理，缺乏结构化的逐步推理轨迹，限制了模型在复杂场景下的泛化能力。在此背景下，由新加坡南洋理工大学、阿里巴巴集团等机构的研究人员于2025年提出的MMR1-SFT数据集应运而生，旨在为多模态推理模型的冷启动监督微调提供大规模、经过严格质量控制的训练资源。该数据集包含约160万条多模态问答样本，其长链思维过程由Gemini-2.5 Pro/Flash生成，并经GPT-4o验证，覆盖数学、科学、图表、文档表格及通用领域，为后续的强化学习后训练奠定了基础，对推动开放可复现的多模态推理研究具有重要影响。

当前挑战

MMR1-SFT数据集面临的挑战主要体现在两个层面。在领域问题层面，多模态推理任务需要模型在理解视觉信息的同时，执行复杂的逻辑推导与多步计算，而现有模型常因缺乏结构化的推理路径而陷入错误或产生碎片化输出，该数据集通过强制要求模型输出包含<think>和<answer>标签的标准化长链思维，旨在解决推理过程不透明、易出错的核心难题。在构建过程中，挑战尤为突出：首先，长链思维数据的生成依赖于顶尖闭源模型（如Gemini-2.5 Pro），但此类模型生成的推理过程可能包含偏差或冗余，需通过GPT-4o进行二次验证，这一多阶段验证机制在保证质量的同时也增加了数据生产的成本与复杂性；其次，为平衡不同领域的覆盖度，需从公开指令数据集中筛选中等及高难度样本，并额外补充科学、图表等稀缺领域的样本，这一过程涉及大规模数据清洗与难度过滤，对计算资源与标注策略提出了严苛要求。

常用场景

经典使用场景

MMR1-SFT数据集的核心经典应用在于为多模态大语言模型提供冷启动监督微调（Cold-Start SFT）的训练语料。该数据集精心构建了约160万条涵盖数学、科学、图表、文档及通用领域的多模态问答样本，每条样本均附带由Gemini-2.5 Pro/Flash生成并经GPT-4o验证的长链思维（Long CoT）推理过程。研究者通常利用此数据集对基础视觉语言模型进行格式对齐与长链推理轨迹的初始化训练，使其掌握从图像中提取信息、进行逐步逻辑推导并输出结构化答案的能力，从而为后续的强化学习阶段奠定坚实的推理基础。

实际应用

在实际应用层面，MMR1-SFT数据集赋能了一系列需要深度视觉理解与逻辑推理能力的智能系统。例如，在教育科技领域，基于该数据集微调的模型能够解析数学几何题、物理实验图表及化学分子结构，为学生提供步骤清晰的解题辅导；在数据分析场景中，模型可自动解读财务报表图表、医疗影像报告或科学论文中的统计表格，辅助专业人员快速提取关键信息并生成解释。此外，该数据集还支持通用视觉问答系统的推理能力增强，使智能助手在面对包含复杂图表的用户查询时，能够输出更具逻辑性和可解释性的回答。

衍生相关工作

MMR1-SFT数据集催生了多项具有影响力的后续研究工作。其核心方法论——方差感知采样（Variance-Aware Sampling, VAS）——被提出用于强化学习后训练阶段，显著提升了多模态推理模型的泛化能力。基于该数据集，研究者进一步开发了MMR1系列模型，在多个视觉推理基准测试中取得了领先性能。此外，该数据集的构建范式——即利用强模型生成CoT再经验证模型过滤——被广泛采纳为生成高质量多模态推理数据的标准流程，启发了如LongCoT-MM等后续数据集的创建，推动了整个领域向更系统化、可复现的方向演进。