遇见数据集

openlifescienceai/MedQA-USMLE-4-options-hf

收藏
Hugging Face2024-04-30 更新2024-06-12 收录
官方服务:

资源简介:

--- dataset_info: features: - name: id dtype: string - name: sent1 dtype: string - name: sent2 dtype: string - name: ending0 dtype: string - name: ending1 dtype: string - name: ending2 dtype: string - name: ending3 dtype: string - name: label dtype: int64 splits: - name: train num_bytes: 8960967 num_examples: 10178 - name: validation num_bytes: 1118434 num_examples: 1272 - name: test num_bytes: 1146462 num_examples: 1273 download_size: 6433072 dataset_size: 11225863 configs: - config_name: default data_files: - split: train path: data/train-* - split: validation path: data/validation-* - split: test path: data/test-* ---

数据集信息: 数据特征: - 名称:id,数据类型(dtype):字符串 - 名称:sent1,数据类型(dtype):字符串 - 名称:sent2,数据类型(dtype):字符串 - 名称:ending0,数据类型(dtype):字符串 - 名称:ending1,数据类型(dtype):字符串 - 名称:ending2,数据类型(dtype):字符串 - 名称:ending3,数据类型(dtype):字符串 - 名称:label,数据类型(dtype):64位整数(int64) 数据集划分: - 划分名称:训练集(train),字节大小:8960967,样本数量:10178 - 划分名称:验证集(validation),字节大小:1118434,样本数量:1272 - 划分名称:测试集(test),字节大小:1146462,样本数量:1273 下载总大小:6433072 数据集总大小:11225863 数据集配置: - 配置名称:默认(default),数据文件映射: - 训练集(train):对应路径 data/train-* - 验证集(validation):对应路径 data/validation-* - 测试集(test):对应路径 data/test-*

提供机构:
openlifescienceai
原始信息汇总

数据集概述

数据集特征

  • id: 字符串类型
  • sent1: 字符串类型
  • sent2: 字符串类型
  • ending0: 字符串类型
  • ending1: 字符串类型
  • ending2: 字符串类型
  • ending3: 字符串类型
  • label: 整数类型(int64)

数据集划分

  • 训练集(train):
    • 样本数量: 10178
    • 数据大小: 8960967字节
  • 验证集(validation):
    • 样本数量: 1272
    • 数据大小: 1118434字节
  • 测试集(test):
    • 样本数量: 1273
    • 数据大小: 1146462字节

数据集大小

  • 下载大小: 6433072字节
  • 数据集总大小: 11225863字节

数据文件配置

  • 默认配置(default):
    • 训练集路径: data/train-*
    • 验证集路径: data/validation-*
    • 测试集路径: data/test-*
搜集汇总
数据集介绍
构建方式
在医学教育与临床推理评估领域,高质量数据集是推动自然语言处理模型发展的基石。MedQA-USMLE-4-options-hf数据集源自美国医师资格考试(USMLE)的官方题库,经过精心筛选与结构化处理而成。其构建方式遵循标准化流程:每道题目包含一个唯一标识符(id)、问题陈述(sent1)与上下文信息(sent2),并配备四个选项(ending0至ending3)及一个正确答案标签(label)。数据集被划分为训练集(10178例)、验证集(1272例)与测试集(1273例),确保模型评估的严谨性与可重复性。
特点
该数据集的核心特点在于其高度模拟真实临床决策场景的复杂性。每道题目均融合多学科医学知识,要求模型不仅理解文本语义,还需具备逻辑推理与知识迁移能力。四个选项的设计增加了干扰项难度,使评估更具挑战性。此外,数据集的规模虽非庞大,但经过专业医师审核,确保了内容质量的权威性与准确性。其结构化特征(如独立的问题与上下文字段)便于研究者灵活设计输入格式,适配不同架构的预训练语言模型。
使用方法
使用该数据集时,研究者通常采用监督学习范式。具体而言,可将sent1与sent2拼接作为模型输入,并将四个选项逐一与输入结合,通过分类器预测正确选项。推荐使用预训练医学语言模型(如PubMedBERT)进行微调,以充分利用领域知识。数据加载可通过HuggingFace的datasets库直接实现,支持按split划分数据,并自动处理tokenization与批量化操作。评估指标常选用准确率(Accuracy),同时可结合选项分布分析模型的鲁棒性。
背景与挑战
背景概述
MedQA-USMLE-4-options-hf数据集由开放生命科学人工智能社区(Open Life Science AI)于近年构建,旨在推动医学自然语言处理领域的发展,特别是针对美国医师执照考试(USMLE)的多选题解答任务。该数据集从权威医学题库中精选而来,包含超过一万两千道题目,每道题配备四个选项及正确答案,覆盖内科学、外科学、药理学等多个临床学科。其核心研究问题在于评估和提升人工智能系统在复杂医学推理、知识检索与临床决策方面的能力。作为医学问答领域的基准数据集,MedQA-USMLE不仅为大型语言模型的医学知识掌握程度提供了标准化测试平台,更催化了诸如临床诊断辅助、医学教育智能化等应用研究的突破,对弥合人工智能与临床实践之间的鸿沟具有深远意义。
当前挑战
该数据集所解决的领域问题在于医学推理的复杂性:USMLE题目往往需要跨学科知识整合、逻辑推理与临床情境判断,远超简单事实检索的范畴,对模型的多步推理与知识泛化能力构成严峻考验。构建过程中面临的挑战包括:1)题目来源的版权与隐私合规性,需确保数据采集不侵犯教材或题库的版权,同时去除患者隐私信息;2)选项设计的平衡性,需避免因选项长度或词汇频率差异引入的统计偏差;3)专家标注的高昂成本,正确答案的确认需由资深临床医师逐题审核,以保证医学准确性;4)数据规模有限,仅一万余道题目难以覆盖医学知识的全貌,易导致模型在罕见病或边缘案例上表现欠佳。
常用场景
经典使用场景
在医学自然语言处理领域,MedQA-USMLE-4-options-hf数据集被广泛用于评估和训练模型在多项选择医学问题上的推理能力。该数据集源自美国医师资格考试(USMLE)的样题,每个问题包含一个临床场景和四个选项,要求模型选出最准确的答案。研究者通常利用此数据集作为基准,检验语言模型在医学知识理解、临床推理和上下文整合方面的表现,尤其是在少样本或零样本学习场景下,其经典用法已成为衡量模型医学素养的核心测试之一。
衍生相关工作
围绕MedQA-USMLE-4-options-hf数据集,学术界衍生了一系列经典工作。其中,最具代表性的是PubMedGPT和Med-PaLM系列模型,它们通过在此数据集上微调或采用思维链提示策略,显著提升了医学问答的准确率,甚至在某些子集上超越了人类专家水平。此外,研究者还提出了MedMCQA、MedQA-Chinese等跨语言和多模态扩展版本,探索了模型在不同语境下的泛化能力。这些衍生工作不仅深化了对医学语言模型的理解,还为构建更可靠、可解释的医疗AI系统奠定了方法论基础。
数据集最近研究
最新研究方向
在医学人工智能领域,MedQA-USMLE-4-options-hf数据集作为评估临床推理能力的黄金标准,正引领着大语言模型在医疗诊断方向的前沿探索。随着GPT-4、Med-PaLM等模型在USMLE考试中取得突破性成绩,该数据集成为衡量模型医学知识掌握与逻辑推理能力的关键基准。当前研究热点集中于利用该数据集的四选项架构设计对抗训练与思维链提示策略,以提升模型在复杂临床场景下的决策可靠性。同时,围绕数据集的跨语言迁移与多模态融合研究也备受关注,旨在推动AI辅助诊疗系统从理论验证迈向真实临床部署,对降低误诊率、优化医疗资源配置具有深远意义。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务