five

emrQA

收藏
arXiv2018-09-04 更新2024-06-21 收录
下载链接:
https://github.com/panushri25/emrQA
下载链接
链接失效反馈
官方服务:
资源简介:
emrQA是由MIT-IBM Watson AI Lab创建的一个大规模问答数据集,专门用于电子医疗记录(EMR)的问答任务。该数据集包含超过400,000个问题-答案对和100万个问题-逻辑形式对,数据来源于临床笔记和其他医疗文档。创建过程中,研究团队利用了现有的i2b2数据集中的专家注释,通过一种新颖的生成框架来构建数据集。emrQA的应用领域主要集中在医疗领域,旨在帮助医生从EMR中快速准确地获取信息,以支持临床决策和提高医疗服务质量。

emrQA is a large-scale question answering (QA) dataset created by the MIT-IBM Watson AI Lab, specifically designed for question answering tasks on electronic medical records (EMR). This dataset contains over 400,000 question-answer pairs and 1 million question-logical form pairs, with data sourced from clinical notes and other medical documents. During its development, the research team utilized expert annotations from the existing i2b2 dataset and constructed the dataset via a novel generative framework. The application scenarios of emrQA are mainly focused on the healthcare domain, aiming to assist clinicians in quickly and accurately retrieving information from EMRs to support clinical decision-making and improve the quality of medical services.
提供机构:
MIT-IBM Watson AI Lab
创建时间:
2018-09-04
搜集汇总
数据集介绍
main_image_url
构建方式
在临床自然语言处理领域,构建大规模问答数据集面临专家标注成本高昂与患者隐私保护的双重挑战。emrQA数据集创新性地提出了一种系统化生成框架,通过重新利用i2b2社区共享的临床笔记标注资源,将原本用于实体识别、关系抽取等任务的专家标注转化为问答对。该方法首先从医师实际查询中收集问题并归一化为模板,随后由医学专家为每个问题模板标注对应的逻辑形式模板,最后利用i2b2数据集中现有的实体与关系标注自动填充模板,生成包含问题、逻辑形式和答案证据的三元组。这一逆向工程方法显著降低了专家参与度,同时确保了标注质量的可信度。
特点
emrQA作为首个面向电子病历的大规模问答数据集,其核心特征体现在规模与复杂性两个维度。该数据集包含超过40万个问答对和100万个问题-逻辑形式对,覆盖了从药物治疗到疾病诊断等多个临床主题。其独特之处在于引入了逻辑形式这一符号化表示,不仅增强了模型的可解释性,更精准地捕捉了临床查询中的复合关系、时间约束和医学知识需求。数据分析显示,约25%的问题涉及比较运算符等复杂操作,12%的问题需要外部医学知识库支持,47%的问题模板包含至少一个事件关系,同时33%的问题存在多个答案证据,充分体现了临床叙事中特有的时间纵向性和推理复杂性。
使用方法
该数据集为临床问答系统的开发与评估提供了多层次的研究框架。研究者可利用问题-逻辑形式对训练语义解析模型,学习从自然语言问题到结构化逻辑表示的映射,这尤其适用于需要高可解释性的医疗决策场景。对于端到端的问答任务,数据集中的答案证据——即临床笔记中的完整标注行——支持基于机器理解的抽取式问答模型训练,同时部分问题对应的类别标注也为文档级分类任务提供了监督信号。基准实验表明,现有模型在该数据集上的表现显著低于开放领域数据集,凸显了其在时序推理、算术运算和医学知识融合等方面提出的新挑战,为下一代临床自然语言处理技术的创新提供了重要的评测平台。
背景与挑战
背景概述
emrQA数据集由MIT-IBM Watson AI实验室、IBM TJ Watson研究中心及伊利诺伊大学厄巴纳-香槟分校的研究团队于2018年共同创建,旨在解决临床医学领域自然语言处理的关键瓶颈。该数据集聚焦于电子病历的自动问答任务,核心研究问题是开发能够理解非结构化临床文本并回答医生自然语言提问的系统。通过创新性地复用i2b2社区共享的专家标注资源,emrQA生成了超过100万个问题-逻辑形式对和40万个问题-答案证据对,显著填补了临床领域大规模问答数据集的空白,为医疗决策支持系统的研发提供了至关重要的基准资源,推动了临床自然语言处理向深度语义理解方向发展。
当前挑战
emrQA数据集所解决的领域挑战在于电子病历的复杂问答,其核心是让机器理解纵向、非结构化且富含专业术语的临床叙事文本,并完成需要医学知识和多句推理的答案提取。构建过程中的主要挑战包括:临床数据涉及严格的隐私保护,难以公开获取;手动标注跨越多份病历的答案证据极其繁琐且易出错;临床文本存在大量领域术语、时间叙事、拼写错误及事实冗余度低等特点,使得传统自然语言处理工具难以直接应用;此外,生成高质量的问题-逻辑形式对需要医学专家深度参与,而逻辑形式的标注本身也是一项高成本的专业任务。
常用场景
经典使用场景
在临床自然语言处理领域,emrQA数据集为电子病历问答系统的开发提供了核心训练与评估资源。其最经典的应用场景在于训练和验证能够理解复杂临床叙事、并从纵向病历记录中精准定位答案的机器学习模型。研究人员利用该数据集庞大的问题-逻辑形式对和问题-答案证据对,构建模型以模拟医生从海量、非结构化的临床笔记中检索特定信息的过程,例如查询患者的用药史、检验结果或疾病诊断时间。
衍生相关工作
emrQA数据集催生了一系列围绕临床问答与病历理解的衍生研究。基于其提供的逻辑形式标注,研究工作得以探索神经符号混合模型,以兼顾答案预测的准确性与决策过程的可解释性。此外,该数据集启发了对临床文本中时序关系建模、医学实体链接与共指消解,以及如何将外部医学知识库融入问答推理等方向的深入探索。这些工作共同推进了医疗人工智能从单纯模式识别向具备深层语义理解与推理能力的方向演进。
数据集最近研究
最新研究方向
在临床自然语言处理领域,电子病历问答系统正成为研究热点,emrQA数据集因其大规模标注和逻辑形式表示而备受关注。当前前沿研究聚焦于开发可解释的混合模型,结合神经网络的表征能力与符号逻辑的推理透明度,以应对临床文本中复杂的时序推理、算术运算及医学知识融合等挑战。该数据集推动了医疗决策支持系统向更精准、可信赖的方向发展,尤其在处理多句子推理、医学术语消歧和纵向病历分析方面展现出独特价值,为构建下一代智能临床助手奠定了数据基础。
相关研究论文
  • 1
    emrQA: A Large Corpus for Question Answering on Electronic Medical RecordsMIT-IBM Watson AI Lab · 2018年
以上内容由遇见数据集搜集并总结生成
5,000+
优质数据集
54 个
任务类型
进入经典数据集
二维码
社区交流群

面向社区/商业的数据集话题

二维码
科研交流群

面向高校/科研机构的开源数据集话题

数据驱动未来

携手共赢发展

商业合作