five

multilingual-reasoning-gym-sft

收藏
Hugging Face2026-06-03 更新2026-06-04 收录
下载链接:
https://huggingface.co/datasets/MauroPello/multilingual-reasoning-gym-sft
下载链接
链接失效反馈
官方服务:
资源简介:
该数据集是一个多语言数据集,包含德语、英语、西班牙语、法语、印地语、意大利语、日语、韩语、波兰语、葡萄牙语、俄语、乌克兰语和中文共13种语言的配置。数据以训练集形式组织,每个语言配置的样本数量在10,100至11,500之间(例如英语为11,500样本,其他语言多为10,100样本)。每个数据样本包含多个结构化字段:任务名称、语言标识、问题、答案、指示答案是否由大语言模型生成的布尔标志,以及一个消息列表(其中每条消息有角色和内容,暗示数据以对话或多轮交互形式组织)。其他元数据字段包括通用元数据字符串、课程等级、课程最大等级数、课程属性、配置标识,以及三个与答案相关的字段:oracle_answer、llm_answer和llm_boxed_answer。从字段推断,数据集可能设计用于教育、课程学习或教学相关任务,并涉及对比或评估大语言模型生成的答案与参考答案。适用于多语言问答、对话生成、教育内容生成、大语言模型评估与微调等任务场景。
创建时间:
2026-05-22
原始信息汇总

数据集概述:multilingual-reasoning-gym-sft

  • 数据集地址: https://huggingface.co/datasets/MauroPello/multilingual-reasoning-gym-sft
  • 描述: 该数据集是一个多语言推理训练数据集,专为监督式微调(SFT)设计,包含多种语言版本的推理任务。

配置与语言

数据集包含 14 个语言配置(config),每个配置对应一种语言,且所有配置共享相同的特征结构。具体语言列表如下:

配置名 语言
de 德语
en 英语
es 西班牙语
fr 法语
hi 印地语
it 意大利语
ja 日语
ko 韩语
pl 波兰语
pt 葡萄牙语
ru 俄语
uk 乌克兰语
zh 中文

数据特征

每个配置包含 15 个特征(feature),旨在存储推理任务及其相关的元数据和模型输出:

特征名 数据类型 描述
task_name string 任务名称
language string 语言标识
question string 问题文本
answer string 标准答案
answer_llm_generated bool 答案是否由LLM生成
messages list 对话消息列表,每条消息包含角色(role)和内容(content)
metadata string 元数据
curriculum_level int64 课程学习等级
curriculum_max_levels int64 最大课程等级
curriculum_attributes string 课程属性
config string 配置信息
oracle_answer string 标准答案(与answer字段可能重复)
llm_answer string 大语言模型生成的回答
llm_boxed_answer string 大语言模型生成的带框答案(通常用于数学推理)

数据划分与规模

每个配置均只包含 一个训练集(train split),所有数据样本均用于训练。各配置的规模如下:

配置名 样本数量 数据集大小(字节) 下载大小(字节)
de 10,100 112,852,737 55,866,261
en 11,500 119,364,569 59,809,613
es 10,100 115,746,618 57,154,406
fr 10,100 116,604,083 57,533,665
hi 10,100 161,118,825 79,666,738
it 10,100 114,046,948 56,512,643
ja 10,100 121,126,608 59,947,686
ko 10,100 117,504,305 57,511,170
pl 10,100 113,478,782 56,346,090
pt 10,100 113,499,735 56,015,685
ru 10,100 147,112,188 72,938,735
uk 10,100 131,898,510 62,370,000
zh 10,100 115,358,202 56,674,220
总计 132,200 1,689,711,210 839,326,912

文件结构

每个语言配置的数据文件存储在对应子目录中,文件名为 train-*(支持通配符匹配)。例如,德语数据存储在 de/train-*,英语存储在 en/train-*,以此类推。

搜集汇总
数据集介绍
main_image_url
构建方式
在自然语言处理与推理能力评测领域,多语言推理数据集的构建一直是推动模型泛化能力提升的关键。multilingual-reasoning-gym-sft数据集通过系统化地收集与整理涵盖德语、英语、西班牙语、法语、印地语、意大利语、日语、韩语、波兰语、葡萄牙语、俄语、乌克兰语及中文等13种语言的推理任务样本,形成了规模可观的训练语料。每个语言子集均包含约10,100至11,500条不等的训练实例,数据以结构化形式存储,每条记录涵盖任务名称、语言标识、问题与答案、回答是否由大语言模型生成、对话消息序列、元数据、课程难度级别与属性、配置信息,以及基于大语言模型生成的参考答案与抽取答案,为多语言推理能力的微调提供了丰富的素材。
使用方法
使用该数据集时,研究者可通过HuggingFace Datasets库按语言配置(如'en'、'zh'等)便捷地加载对应子集。数据以训练集(train)划分形式提供,每条记录中messages字段以标准化角色-内容格式存储对话历史,便于直接用于对话式模型的训练或指令微调。建议在加载后将问题、标准答案与模型生成答案字段组合,构建针对性的推理任务提示模板。同时,可依据curriculum_level字段对样本进行排序或筛选,实现从简单到复杂的渐进式训练策略,以最大化模型在多语言场景下的推理表现。
背景与挑战
背景概述
多语言推理能力是评估大语言模型泛化性的关键维度,然而现有基准多聚焦于英语任务,忽视了跨语言场景下的逻辑推理挑战。multilingual-reasoning-gym-sft数据集应运而生,由研究团队为系统评估多语言模型在推理任务上的表现而构建,覆盖德语、英语、西班牙语等13种语言,每个语言配置均包含约10100至11500条训练样本。该数据集的核心研究问题在于探索模型在非英语语言中能否保持与英语相当的推理水平,并推动多语言模型在数学、逻辑等领域的应用发展。其影响力在于为跨语言推理研究提供了标准化测试平台,有望促进多语言大模型的公平性和鲁棒性评估。
当前挑战
该数据集解决的核心领域挑战是多语言环境下大语言模型的推理能力评估问题,现有模型在英语任务中表现优异,但在低资源语言中常出现性能骤降,急需统一的多语言推理基准来揭示系统性偏差。在构建过程中,数据集面临两大难题:一是确保各语言版本任务难度和内容分布的均衡性,避免因翻译偏差或文化差异导致的评价不公;二是如何设计兼具难度梯度与教育意义的课程式推理任务(curriculum_level),使模型能力增长路径可量化。此外,对于非拉丁语系语言(如印地语、乌克兰语),数据标注和质量控制成本显著增加,且需保证答案的准确性与语言的自然度。
常用场景
经典使用场景
在多语言自然语言处理领域,该数据集以其丰富的多语种推理任务为特色,涵盖了德语、英语、西班牙语、法语、印地语、意大利语、日语、韩语、波兰语、葡萄牙语、俄语、乌克兰语和中文等13种语言。每个子集均包含大量用于监督微调的问答对,并附有课程级别的难度属性,使其在训练大语言模型的逻辑推理与多步思考能力时成为不可或缺的基石。研究者常借助此数据集对模型进行多语言环境下的微调,以检验其跨语言泛化能力。
解决学术问题
该数据集有效缓解了多语言推理数据稀缺的困境,为评估和提升大语言模型在非英语语境下的推理能力提供了标准化基准。通过引入课程难度等级和元数据,它支持从简单到复杂的渐进式学习,解决了传统单语推理数据集在语言多样性和难度层次上的局限性。其意义在于推动多语言大模型的公平性研究,确保模型在资源丰富与资源匮乏的语言上均能展现可靠的逻辑推理表现。
实际应用
在实际应用中,该数据集被广泛用于构建具备多语言问答能力的智能助手和客服系统。企业可利用其微调后的模型处理来自不同语言用户的复杂查询,例如法律咨询或技术支持中的多步推理任务。此外,教育科技领域借助该数据集开发自适应学习平台,根据课程难度精准匹配学生的推理训练内容,促进跨语言教育资源的智能化整合。
数据集最近研究
最新研究方向
在大型语言模型多语言推理能力的前沿探索中,multilingual-reasoning-gym-sft数据集正成为推动跨语言逻辑推理与课程学习融合的核心基石。该数据集覆盖了从印欧语系到汉藏语系、从斯拉夫语族到罗曼语族的12种语言,其精心设计的层级化课程结构(curriculum_level与curriculum_attributes)与标准答案(oracle_answer)及大模型生成答案(llm_answer)的对照模式,为研究多语言环境下推理能力的迁移学习、零样本跨语言泛化以及渐进式难度递增的微调策略提供了黄金标准。当前,该数据集被广泛用于评估和增强大模型在不平衡语言分布下的鲁棒推理表现,其意义在于打破语言壁垒,促进真正意义上的多语言智能体的构建,对全球化场景下的教育、医疗等领域的智能应用产生深远影响。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务