MMRP
收藏资源简介:
MMRP数据集是一个多任务医学推理数据集,具有分级的难度,包含了由MICS生成的多模态推理路径数据。该数据集旨在帮助医学多模态大型语言模型(MLLMs)提升其在医学领域的推理能力。数据集涵盖了12种成像模态和20个身体系统,通过逐步的学习策略,将医学知识从基础概念到复杂案例逐步注入MLLMs中,从而增强模型的推理能力。
MMRP dataset is a multi-task medical reasoning dataset with graded difficulty, which contains multimodal reasoning path data generated by MICS. This dataset is designed to help medical multimodal large language models (MLLMs) improve their reasoning capabilities in the medical field. The dataset covers 12 imaging modalities and 20 body systems, and gradually injects medical knowledge from basic concepts to complex cases into MLLMs via a step-by-step learning strategy, thereby enhancing the models' reasoning abilities.
数据集概述:Chiron-o1
1. 数据集简介
- 目的:通过Mentor-Intern Collaborative Search (MICS)策略生成有效的逐步推理链(CoT)数据,增强多模态大语言模型(MLLMs)的医学推理能力。
- 核心方法:利用多个知识渊博的导师模型协作搜索推理路径,并通过实习生模型的反馈评估路径质量。
2. 数据构建
- 数据来源:基于Radiopaedia的医学影像数据(需获取非商业许可证)。
- 支持模型:
- 导师模型:GPT-4o、Gemini 2.5 Pro Preview、Qwen2.5-VL-72B-Instruct
- 实习生模型:Qwen25-VL-7B、Qwen2-VL-7B、Internvl3-8B
- 代码示例:提供
run.py脚本用于生成推理路径,需配置API密钥和模型路径。
3. 模型训练
- 基础模型:
- Chiron-o1-2B:基于InternVL3-2B
- Chiron-o1-8B:基于InternVL3-8B
- 硬件要求:
- Chiron-o1-2B:2×32G/40G GPU
- Chiron-o1-8B:2×A100 80G GPU
- 训练脚本:提供LoRA微调脚本,支持动态分辨率训练。
4. 模型推理
- 文本推理示例:使用Hugging Face Transformers库加载模型进行纯文本推理。
- 多模态任务:参考
infer.py脚本处理图像和文本联合输入。
5. 评估
- 评估脚本:提供
eval.py评估医学VQA基准性能。 - 评估指标:使用DeepSeek API评估答案正确性。
6. 性能表现
- 基准对比:与HuatuoGPT-Vision、Med-R1、MedVLM-R1等模型对比,展示在多个医学推理基准上的优越性能。
- 优势:能够生成深度合理的推理路径,提高答案准确性。
7. 使用限制
- 数据许可:原始Radiopaedia数据需单独获取非商业许可证。
- 硬件要求:训练和推理需要高性能GPU支持。
8. 引用
bibtex @article{sun2025enhancingstepbystepverifiablemedical, title={Enhancing Step-by-Step and Verifiable Medical Reasoning in MLLMs}, author={Haoran Sun and Yankai Jiang and Wenjie Lou and Yujie Zhang and Wenjie Li and Lilong Wang and Mianxin Liu and Lei Liu and Xiaosong Wang}, journal={arXiv preprint arXiv:2506.16962}, year={2025} }




