Medex

Medex 是一个大规模的数据集，包含从公开或可授权的文献中提取的医学相关实体（如小分子、蛋白质、疾病、基因等）及其相关信息。该数据集由超过两百万个独特的实体和超过两亿个独特的段落组成，其中包含32.3百万对自然语言事实和相应的实体表示（如SMILES或refseq IDs）。Medex 数据集的创建利用了大型语言模型（LLMs）和跨模态语言建模的最新进展，通过发现相关段落中的治疗实体并总结信息为简洁的事实，将学术文献中的非结构化数据转化为标记的治疗相关实体对。Medex 数据集在构建具有强先验知识的模型方面非常有效，可用于约束分子优化算法，从而提出更安全且效果良好的分子。

Medex is a large-scale dataset that contains medically relevant entities (e.g., small molecules, proteins, diseases, genes, etc.) and their associated information extracted from publicly or licensable literature. This dataset consists of over 2 million unique entities and over 200 million unique passages, and contains 32.3 million pairs of natural language facts and their corresponding entity representations (e.g., SMILES or refseq IDs). The creation of the Medex dataset leverages the latest advancements in Large Language Models (LLMs) and cross-modal language modeling, transforming unstructured data from academic literature into labeled therapy-related entity pairs by identifying therapeutic entities in relevant passages and summarizing the information into concise facts. The Medex dataset is highly effective for building models with strong prior knowledge, and can be used to constrain molecular optimization algorithms to propose safer and more efficacious molecules.

搜集汇总

数据集介绍

构建方式

Medex的构建基于一个多阶段流水线，首先从PubChem、UniProt等数据库中获取与治疗实体相关的科学文献，随后通过GROBID将PDF解析为纯文本并分割成段落。在此基础上，利用经过知识蒸馏的LLaMA模型（由LLaMA 405B蒸馏至8B参数）进行段落级别的实体标注与归一化，将小分子、蛋白质等实体映射为规范表示（如SMILES或RefSeq ID）。最后，借助GPT-4.1生成事实，并蒸馏至Gemma 3 4B模型，从段落中提炼出具有普遍性的、可独立理解的简明事实。整个流程产出了超过3200万对事实与实体配对。

特点

Medex的核心特点在于其规模与多样性的兼顾：涵盖超过200万种独特实体、32.3百万条自然语言事实，涉及小分子、蛋白质、基因、疾病等多种治疗相关类型。事实来源于公开学术文献，并以自包含、可移植的语句呈现，确保跨段落上下文的可理解性。数据集合规附有DOI源信息，支持溯源与验证。更为关键的是，该数据集通过知识蒸馏技术显著降低了构建成本，同时保持了实体识别与事实提取的高精度，为下游多模态模型提供了丰富、可靠的治疗先验知识。

使用方法

Medex的应用方式灵活多样，可直接作为预训练语料用于对比学习（如MedexCLIP），将实体表示与文本事实对齐到联合嵌入空间；也可通过投影层将实体嵌入注入语言模型（如MedexLLava），实现结构信息与文本推理的融合；此外，还可用于指令微调（如MedexLM），将SMILES等非人类可读表示转化为模型能理解的自然语言任务。下游任务涵盖TDC中的分类与回归基准，并能作为约束条件优化分子设计，显著提升候选分子的安全性与有效性。数据集已发布于huggingface.co/datasets/medexanon/Medex。

背景与挑战

背景概述

Medex数据集由宾夕法尼亚大学等机构的研究团队于2025年创建，旨在解决人工智能驱动药物设计中实验先验知识匮乏的瓶颈。核心研究问题在于，现有药物设计模型过度依赖计算机模拟，忽略了文献中蕴藏的大量实验约束，导致所提议的分子在实际应用中安全性堪忧——例如，对GuacaMol基准的再分析显示，超过60%的候选分子具有较高的致突变风险。Medex从海量科学文献中自动提取了约3230万条简洁、可复用的医学实体事实，涵盖小分子、蛋白质、基因等，并通过对比学习等范式赋予小模型强大的先验知识。该数据集在治疗数据共同体的多项回归与分类任务中，仅以1500万可训练参数超越了20亿参数的TxGemma模型，显著推动了低资源条件下精准药物设计的进程。

当前挑战

Medex面临的挑战主要体现在两方面。其一，在领域问题层面，药物设计过程中模拟优化的候选分子常因缺乏实验先验而违反安全性和药代动力学等隐式约束，急需一种系统性的方法从自然语言文献中提取并形式化这些先验知识。其二，在数据集构建层面，需应对三大难题：首先是海量段落标注的经济成本，仅以GPT-4.1处理4亿段落预估耗资24.8万美元；其次是实体归一化挑战，同一化合物在不同论文中表述迥异，需精确映射至标准化表示如SMILES；最后是别名消解困境，如“LVFX”代指“Levofloxacin”，模型需在缺乏显式上下文时准确识别这些缩写指代，这些因素共同提升了构建高质量、大规模先验知识数据集的复杂性与资源需求。

常用场景

经典使用场景

在治疗性分子设计的学术研究中，Medex数据集被广泛用于构建融合文献先验知识的预测模型。其核心场景是将从海量科学文献中蒸馏出的自然语言事实与分子或蛋白质的规范化表征（如SMILES或RefSeq ID）进行对齐，从而训练对比学习或多模态架构。通过MedexCLIP等方法，研究者能够将文本描述中的药理学、毒理学和药代动力学属性直接嵌入到分子表征空间中，使仅含1500万可训练参数的小模型在治疗数据共同体（TDC）的回归与分类任务上超越或媲美20亿乃至90亿参数的大规模基座模型。这一范式尤其适用于数据稀疏但文献丰富的靶点或适应症，有效弥补了传统纯模拟驱动设计中对隐式实验约束的忽视。

衍生相关工作

基于Medex数据集，研究团队相继开发了一系列开创性的模型与工作流。首先，MedexCLIP采用对比学习范式将分子编码器与文本编码器对齐，仅通过15M可调参数便在TDC 35项分类和28项回归任务中取得具有竞争力的成绩，挑战了'更大即更好'的规模定律。其次，MedexLLaVA将MedexCLIP学习的联合嵌入空间作为视觉提示注入大语言模型，使语言模型直接理解分子结构与属性的关联，开启交互式药物设计的新可能。此外，MedexLM通过指令微调将分子SMILES序列与属性事实配对，验证了纯文本范式在属性预测中的可行性。这些衍生产品共同推动了多模态小模型在生物医学领域的应用，并为后续基于图的文献知识图谱构建、可信度感知的事实过滤等方向奠定了基准。

数据集最近研究

最新研究方向

在人工智能驱动的治疗设计领域，前沿研究正聚焦于如何有效整合科学文献中蕴含的隐性实验先验知识，以提升模型的安全性与性能。Medex数据集应运而生，它通过大规模语言模型管道从海量生物医学文献中自动提取出超过3200万条关于小分子、蛋白质等实体的简洁事实对，为模型提供了丰富的实验先验。这一方向紧密关联于当前热点事件——例如在GuacaMol分子优化基准测试中，分析发现超过60%的候选分子存在高致突变性风险，揭示了传统模拟方法忽视安全约束的严重缺陷。Medex的核心意义在于，它使得仅含1500万可训练参数的轻量级模型（如MedexCLIP）能在治疗数据公共基准（TDC）的分类与回归任务上全面超越拥有20亿参数的TxGemma模型，并在GuacaMol优化中生成既安全又高效的分子候选，从而推动了从数据驱动的“模拟优化”向知识驱动的“安全设计”的范式转变，极大加速了更具现实可行性的治疗候选物发现。

相关研究论文

• 通过

  宾夕法尼亚大学 · 2025年