MNLP_M3_mcqa_dataset
收藏Hugging Face2025-06-10 更新2025-06-11 收录
下载链接:
https://huggingface.co/datasets/andresnowak/MNLP_M3_mcqa_dataset
下载链接
链接失效反馈官方服务:
资源简介:
该数据集包含用于MCQA和指令微调的数据集。消息列用于指令微调数据集,而选择题、问题、上下文和答案列用于MCQA数据集。MCQA数据集包含来自[mmlu辅助训练](https://huggingface.co/datasets/kz919/mmlu-auxiliary-train-auto-labelled)、[mmlu](https://huggingface.co/datasets/cais/mmlu)、[ai2_arc](https://huggingface.co/datasets/allenai/ai2_arc)、[ScienceQA](https://huggingface.co/datasets/derek-thomas/ScienceQA)、[math_qa](https://huggingface.co/datasets/allenai/math_qa)、[openbook_qa](https://huggingface.co/datasets/allenai/openbookqa)、[sciq](https://huggingface.co/datasets/allenai/sciq)、[medmcqa](https://huggingface.co/datasets/openlifescienceai/medmcqa)和[mmlu_10_choices](https://huggingface.co/datasets/andresnowak/mmlu-auxiliary-train-10-choices)的训练、验证和测试分割。指令微调数据集使用[Tulu3-sft-mixture](https://huggingface.co/datasets/allenai/tulu-3-sft-mixture)创建,仅用于训练。
本数据集涵盖面向多项选择题问答(Multiple Choice Question Answering,MCQA)与指令微调的两类任务所需的数据集。其中,消息字段列用于指令微调数据集,而选择题、问题、上下文与答案字段列则对应MCQA数据集。MCQA数据集涵盖以下公开数据集的训练、验证与测试划分:自动标注MMLU辅助训练数据集(https://huggingface.co/datasets/kz919/mmlu-auxiliary-train-auto-labelled)、大规模多任务语言理解(Massive Multitask Language Understanding,MMLU)数据集(https://huggingface.co/datasets/cais/mmlu)、ai2_arc数据集(https://huggingface.co/datasets/allenai/ai2_arc)、科学问答(ScienceQA)数据集(https://huggingface.co/datasets/derek-thomas/ScienceQA)、数学问答(math_qa)数据集(https://huggingface.co/datasets/allenai/math_qa)、开放书问答(openbook_qa)数据集(https://huggingface.co/datasets/allenai/openbookqa)、SciQ(sciq)数据集(https://huggingface.co/datasets/allenai/sciq)、医学多选题问答(medmcqa)数据集(https://huggingface.co/datasets/openlifescienceai/medmcqa)以及10选项MMLU辅助训练数据集(https://huggingface.co/datasets/andresnowak/mmlu-auxiliary-train-10-choices)。指令微调数据集基于[Tulu3-sft-mixture](https://huggingface.co/datasets/allenai/tulu-3-sft-mixture)构建,仅用作训练集。
创建时间:
2025-06-10
搜集汇总
数据集介绍

构建方式
在构建MNLP_M3_mcqa_dataset数据集时,研究团队整合了多个权威的多选题问答数据集,包括科学问答、数学推理和医学知识等领域的专业内容。通过精心筛选和标准化处理,确保数据来源的多样性和质量,涵盖了从基础教育到专业学科的广泛知识范畴。数据集采用统一的格式进行重构,每个样本包含问题、选项和答案,部分还附带上下文信息,以支持复杂的推理任务。
特点
该数据集以其广泛的学科覆盖和高质量标注而著称,融合了STEM学科、医学及通用知识等多个领域的多选题。其特色在于不仅包含传统的文本问答,还整合了指令微调数据,采用对话格式的消息结构,增强了模型的多轮交互能力。数据规模庞大,总计超过百万条样本,且严格划分训练、验证和测试集,确保评估的公正性和可靠性。
使用方法
研究人员可利用该数据集训练和评估多选题问答模型,尤其适用于知识推理和指令跟随任务。通过加载特定配置(如ScienceQA或ai2_arc),用户可访问不同子集,其中消息列用于指令微调,而问题、选项和答案列则用于多选题训练。测试集仅用于评估,严禁参与训练过程,以保证结果的可比性和科学性。
背景与挑战
背景概述
多领域多选题问答数据集MNLP_M3_mcqa_dataset由多个知名研究机构联合构建,包括艾伦人工智能研究所和开放生命科学AI等权威组织。该数据集整合了ScienceQA、AI2 ARC、MMLU等十余个专业子集,覆盖自然科学、数学推理、医学诊断和人文社科等多元学科领域。其核心研究目标在于推动机器对复杂多选项问题的深度理解与推理能力,为大规模语言模型的跨领域知识评估建立了标准化基准。通过融合指令微调数据与多选题数据,该数据集显著提升了模型在知识密集型任务中的泛化性能,对教育科技和智能问答系统的发展产生了深远影响。
当前挑战
构建过程面临多源数据融合的复杂性挑战,需要协调不同子集在标注规范、选项设计和知识粒度上的差异性。领域问题层面需解决模型对干扰选项的辨别力不足问题,特别是在医学和数学等专业领域中的细粒度推理。数据质量管控存在困难,既要保证科学问题的准确性,又需维持选项之间的合理迷惑性。指令微调数据的清洗工作面临对话结构一致性与内容安全性的双重约束,需要精确过滤不符合规范的对话样本。
常用场景
经典使用场景
在自然语言处理领域,MNLP_M3_mcqa_dataset作为多领域多项选择题数据集的集成平台,其经典使用场景主要集中于大规模语言模型的推理能力评估与训练。该数据集通过整合科学问答、数学推理、医学知识等八个专业领域的多项选择题,为研究者提供了跨学科的综合评估基准。模型在解决这些选择题时需展现逻辑推理、知识检索和语义理解等多维能力,成为衡量人工智能系统综合认知水平的重要试金石。
解决学术问题
该数据集有效解决了多项选择题推理任务中领域覆盖单一、评估维度局限的学术难题。通过融合STEM学科、医学和通用知识等多个领域的高质量数据,它为研究社区提供了统一的评估框架,使得跨领域知识迁移、推理能力泛化等关键问题的研究成为可能。这种多领域集成特性显著推进了语言模型在复杂推理任务中的可解释性研究和性能边界探索,为人工智能认知能力的发展提供了重要数据支撑。
衍生相关工作
该数据集衍生出了一系列重要的研究工作,特别是在指令微调和推理能力增强方面。基于其多领域特性,研究者开发了新型的混合专家模型架构,实现了不同学科领域的专项处理能力。同时,该数据集也为检索增强生成技术提供了验证平台,推动了知识密集型推理任务的技术创新。这些衍生工作不仅提升了模型在专业领域的表现,也为多模态推理数据集的建设提供了重要参考。
以上内容由遇见数据集搜集并总结生成



