five

TCM-SD|中医数据集|自然语言处理数据集

收藏
arXiv2022-08-03 更新2024-06-21 收录
中医
自然语言处理
下载链接:
https://github.com/Borororo/ZY-BERT
下载链接
链接失效反馈
资源简介:
TCM-SD数据集是首个公开的大规模证型辨识基准,由北京理工大学计算机科学与技术学院创建。该数据集包含54,152条真实世界的临床记录,涵盖148种证型,旨在通过自然语言处理技术推动中医理论的实证研究。数据集的创建过程涉及从网站爬取大量未标记文本,构建中医领域特定的预训练语言模型ZY-BERT。TCM-SD数据集的应用领域主要集中在中医诊断与治疗系统中,特别是证型辨识任务,以解决中医领域数据驱动AI技术的进一步发展需求。
提供机构:
北京理工大学计算机科学与技术学院
创建时间:
2022-03-21
AI搜集汇总
数据集介绍
main_image_url
构建方式
TCM-SD数据集的构建基于真实世界的中医临床记录,涵盖了54,152条样本,覆盖了148种中医证候。数据集的构建过程包括从医院电子病历系统中提取临床记录,并通过专家审核确保数据的准确性和一致性。为了进一步提升数据质量,研究团队采用了证候归一化方法,包括合并和修剪操作,以消除证候名称的不一致性。此外,数据集还包含了一个大规模的中医领域无标签文本语料库,用于预训练领域特定的语言模型ZY-BERT。
使用方法
TCM-SD数据集主要用于中医辨证论治的自然语言处理任务,特别是多分类任务。研究人员可以将临床记录作为输入,预测患者的中医证候类型。数据集还支持机器阅读理解任务,通过引入外部知识库,模型可以从临床记录中提取与证候相关的信息。此外,数据集还可用于评估领域特定的预训练语言模型(如ZY-BERT)在中医领域的性能,推动中医与现代人工智能技术的深度融合。
背景与挑战
背景概述
TCM-SD数据集是由北京理工大学的Mucheng Ren、Heyan Huang等研究人员于2022年提出的,旨在通过自然语言处理(NLP)技术推动中医辨证论治(Syndrome Differentiation, SD)的信息化和智能化。中医作为全球广泛应用的传统医学体系,其诊断和治疗依赖于对患者症状的全面分析,而这些症状通常隐藏在自由文本的临床记录中。尽管已有研究表明人工智能技术可以辅助中医的现代化发展,但现有数据集在质量和数量上均不足以支持数据驱动的AI技术的进一步发展。TCM-SD数据集包含54,152条真实世界的中医临床记录,涵盖148种证候,是首个公开的大规模中医辨证基准数据集。该数据集的发布为中医领域的NLP研究提供了重要资源,推动了中医理论的现代化和国际化。
当前挑战
TCM-SD数据集在构建和应用过程中面临多重挑战。首先,中医辨证论治的核心任务是通过复杂的临床信息推断患者的证候类型,这一任务不仅需要对文本进行深度理解,还需结合中医特有的理论体系(如阴阳、寒热等抽象概念),这对模型的推理能力提出了极高要求。其次,中医临床记录中的术语和表达方式与现代医学存在显著差异,且缺乏标准化,导致数据集的构建过程中需要进行大量的证候归一化处理。此外,数据集中证候分布不均衡,长尾分布问题显著,稀有证候的样本数量较少,增加了模型训练的难度。最后,中医领域的文本资源稀缺,构建大规模、高质量的预训练语料库成为一大挑战,而TCM-SD数据集通过引入领域特定的预训练语言模型(如ZY-BERT)部分缓解了这一问题。
常用场景
经典使用场景
TCM-SD数据集在中医领域的自然语言处理研究中具有重要地位,尤其是在中医辨证论治(Syndrome Differentiation, SD)任务中。该数据集通过提供大量真实世界的中医临床记录,支持研究者利用深度学习模型进行辨证分类任务。其经典使用场景包括基于文本的中医症状分析、证候分类以及治疗方案的推荐。通过结合中医理论和现代自然语言处理技术,TCM-SD为中医信息化和智能化提供了坚实的基础。
解决学术问题
TCM-SD数据集解决了中医领域缺乏高质量、大规模标注数据的问题,为中医辨证论治的自动化研究提供了数据支持。通过该数据集,研究者能够探索中医证候分类的复杂性,验证领域特定的预训练语言模型(如ZY-BERT)的有效性,并揭示中医理论与现代计算机科学结合的可能性。该数据集的出现填补了中医自然语言处理研究的空白,推动了中医理论的现代化和国际化。
实际应用
TCM-SD数据集在实际应用中具有广泛的前景,尤其是在中医临床决策支持系统中。通过该数据集训练的模型可以帮助中医师快速、准确地识别患者的证候类型,从而制定个性化的治疗方案。此外,该数据集还可用于开发中医智能诊断工具,辅助中医教学和科研,提升中医诊疗的效率和准确性。其应用不仅限于中医领域,还可为其他传统医学的现代化提供参考。
数据集最近研究
最新研究方向
近年来,随着人工智能技术的迅猛发展,自然语言处理(NLP)在医学领域的应用逐渐成为研究热点。TCM-SD数据集的推出,标志着中医辨证论治(Syndrome Differentiation, SD)任务首次通过大规模公开数据集的形式进入NLP研究视野。该数据集包含54,152条真实临床记录,涵盖148种中医证候,为中医辨证论治的智能化提供了坚实的基础。当前,基于TCM-SD的研究主要集中在以下几个方面:首先,通过深度学习模型(如BERT、RoBERTa等)建立强基线,探索中医辨证任务的挑战与潜力;其次,结合领域特定的预训练语言模型(如ZY-BERT),提升模型在中医文本理解与推理任务中的表现;最后,引入外部知识库,增强模型对中医理论的解释能力。这些研究不仅推动了中医与现代科技的融合,也为中医的国际化与现代化提供了新的路径。
相关研究论文
  • 1
    TCM-SD: A Benchmark for Probing Syndrome Differentiation via Natural Language Processing北京理工大学计算机科学与技术学院 · 2022年
以上内容由AI搜集并总结生成
用户留言
有没有相关的论文或文献参考?
这个数据集是基于什么背景创建的?
数据集的作者是谁?
能帮我联系到这个数据集的作者吗?
这个数据集如何下载?
点击留言
数据主题
具身智能
数据集  4098个
机构  8个
大模型
数据集  439个
机构  10个
无人机
数据集  37个
机构  6个
指令微调
数据集  36个
机构  6个
蛋白质结构
数据集  50个
机构  8个
空间智能
数据集  21个
机构  5个
5,000+
优质数据集
54 个
任务类型
进入经典数据集
热门数据集

ROBEL

ROBEL是一个开源的低成本机器人平台,专为现实世界的强化学习设计。该平台由谷歌研究院和加州大学伯克利分校共同开发,包含两个机器人:D'Claw,一个三指手机器人,用于促进精细操作任务的学习;D'Kitty,一个四足机器人,用于促进敏捷的腿式移动任务学习。这些模块化机器人易于维护且足够坚固,能够承受从零开始的硬件强化学习,目前已记录超过14000小时的训练时间。ROBEL提供了一系列连续控制基准任务,这些任务具有密集和稀疏的任务目标,并引入了硬件安全评分指标。数据集和相关材料可在www.roboticsbenchmarks.org访问,旨在解决强化学习在真实机器人上的应用问题,特别是在处理物理限制和环境交互方面的挑战。

arXiv 收录

中国区域地面气象要素驱动数据集 v2.0(1951-2020)

中国区域地面气象要素驱动数据集(China Meteorological Forcing Data,以下简称 CMFD)是为支撑中国区域陆面、水文、生态等领域研究而研发的一套高精度、高分辨率、长时间序列数据产品。本页面发布的 CMFD 2.0 包含了近地面气温、气压、比湿、全风速、向下短波辐射通量、向下长波辐射通量、降水率等气象要素,时间分辨率为 3 小时,水平空间分辨率为 0.1°,时间长度为 70 年(1951~2020 年),覆盖了 70°E~140°E,15°N~55°N 空间范围内的陆地区域。CMFD 2.0 融合了欧洲中期天气预报中心 ERA5 再分析数据与气象台站观测数据,并在辐射、降水数据产品中集成了采用人工智能技术制作的 ISCCP-ITP-CNN 和 TPHiPr 数据产品,其数据精度较 CMFD 的上一代产品有显著提升。 CMFD 历经十余年的发展,其间发布了多个重要版本。2019 年发布的 CMFD 1.6 是完全采用传统数据融合技术制作的最后一个 CMFD 版本,而本次发布的 CMFD 2.0 则是 CMFD 转向人工智能技术制作的首个版本。此版本与 1.6 版具有相同的时空分辨率和基础变量集,但在其它诸多方面存在大幅改进。除集成了采用人工智能技术制作的辐射和降水数据外,在制作 CMFD 2.0 的过程中,研发团队尽可能采用单一来源的再分析数据作为输入并引入气象台站迁址信息,显著缓解了 CMFD 1.6 中因多源数据拼接和气象台站迁址而产生的虚假气候突变。同时,CMFD 2.0 数据的时间长度从 CMFD 1.6 的 40 年大幅扩展到了 70 年,并将继续向后延伸。CMFD 2.0 的网格空间范围虽然与 CMFD 1.6 相同,但其有效数据扩展到了中国之外,能够更好地支持跨境区域研究。为方便用户使用,CMFD 2.0 还在基础变量集之外提供了若干衍生变量,包括近地面相对湿度、雨雪分离降水产品等。此外,CMFD 2.0 摒弃了 CMFD 1.6 中通过 scale_factor 和 add_offset 参数将实型数据化为整型数据的压缩技术,转而直接将实型数据压缩存储于 NetCDF4 格式文件中,从而消除了用户使用数据时进行解压换算的困扰。 本数据集原定版本号为 1.7,但鉴于本数据集从输入数据到研制技术都较上一代数据产品有了大幅的改变,故将其版本号重新定义为 2.0。CMFD 2.0 的数据内容与此前宣传的 CMFD 1.7 基本一致,仅对 1983 年 7 月以后的向下短/长波辐射通量数据进行了更新,以修正其长期趋势存在的问题。2021 年至 2024 年的 CMFD 数据正在制作中,计划于 2025 年上半年发布,从而使 CMFD 2.0 延伸至 2024 年底。

国家青藏高原科学数据中心 收录

RAVDESS

情感语音和歌曲 (RAVDESS) 的Ryerson视听数据库包含7,356个文件 (总大小: 24.8 GB)。该数据库包含24位专业演员 (12位女性,12位男性),以中性的北美口音发声两个词汇匹配的陈述。言语包括平静、快乐、悲伤、愤怒、恐惧、惊讶和厌恶的表情,歌曲则包含平静、快乐、悲伤、愤怒和恐惧的情绪。每个表达都是在两个情绪强度水平 (正常,强烈) 下产生的,另外还有一个中性表达。所有条件都有三种模态格式: 纯音频 (16位,48kHz .wav),音频-视频 (720p H.264,AAC 48kHz,.mp4) 和仅视频 (无声音)。注意,Actor_18没有歌曲文件。

OpenDataLab 收录

Plant-Diseases

Dataset for Plant Diseases containg variours Plant Disease

kaggle 收录

ChinaTravel

ChinaTravel是由南京大学国家重点实验室开发的一个真实世界基准数据集,专门用于评估语言代理在中国旅行规划中的应用。该数据集涵盖了中国10个最受欢迎城市的旅行信息,包括720个航班和5770趟列车,以及3413个景点、4655家餐厅和4124家酒店的详细信息。数据集通过问卷调查收集用户需求,并设计了一个可扩展的领域特定语言来支持自动评估。ChinaTravel旨在解决复杂的真实世界旅行规划问题,特别是在多兴趣点行程安排和用户偏好满足方面,为语言代理在旅行规划中的应用提供了重要的测试平台。

arXiv 收录