five

medical-o1-reasoning-SFT|医疗诊断数据集|推理分析数据集

收藏
github2025-03-08 更新2025-03-24 收录
医疗诊断
推理分析
下载链接:
https://github.com/Haohao-end/unsloth-fine-tuning-framework-with-LoRA-and-CoT-Q-A-data-set-wandb-visual-training-logs
下载链接
链接失效反馈
资源简介:
500+ 中文医疗场景问答,包含详细思维链标注,覆盖常见疾病诊断路径。
创建时间:
2025-03-08
原始信息汇总

DeepSeek-R1 医疗诊断大模型微调指南

项目亮点

  • 闪电训练:基于Unsloth框架,提速2倍显存节省80%。
  • 医学思维链:引入CoT推理让诊断过程透明化。
  • 专业领域适配:专治模型医学知识贫血症。
  • 训练可视化:wandb实时监控训练过程,效果看得见。
  • 精准微调:LoRA技术实现外科手术式参数调整。

快速开始

环境配置

bash sudo apt install python3-venv python3 -m venv unsloth source unsloth/bin/activate pip install unsloth wandb python-dotenv

启动微调

bash python r1-finetuning-unsloth.py

训练过程可视化

python wandb.init(project=Fine-tune-DeepSeek-R1)

效果对比

微调前

text "建议多喝水,注意休息..."

微调后

text "根据病毒性感冒的典型病程:

  1. 退烧药仅对症处理...
  2. 推荐使用奥司他韦...
  3. 需密切观察..."

数据集

python load_dataset("FreedomIntelligence/medical-o1-reasoning-SFT")

  • 500+ 中文医疗场景问答
  • 包含详细思维链标注
  • 覆盖常见疾病诊断路径

技术配置

组件 配置 说明
模型 DeepSeek-R1-Distill-Qwen-1.5B 医学知识蒸馏版
LoRA r=16, alpha=16 精准参数调整
量化 4bit 加载 显存优化黑科技
训练 BF16混合精度 速度精度双保障

模型保存

python model.save_pretrained_merged("My_Medical_GPT", save_method="merged_16bit")

模型部署

python model.push_to_hub_merged("YourName/Medical-R1")

注意事项

  1. 使用前记得替换代码中的hf_tokenwb_token
  2. 建议先在500条数据上试跑,再扩展数据集
  3. 医疗内容仅供参考,实际应用需专业审核
AI搜集汇总
数据集介绍
main_image_url
构建方式
medical-o1-reasoning-SFT数据集的构建基于中文医疗场景的问答数据,涵盖了500多个具体的医疗案例。每个案例均包含详细的思维链标注,确保模型能够理解并模拟医学诊断的逻辑过程。数据集的构建过程中,特别注重了疾病诊断路径的覆盖,使得模型能够在多样化的医疗情境中进行有效推理。
特点
该数据集的特点在于其专注于医疗推理领域,提供了丰富的思维链标注,使得模型能够透明化地展示诊断过程。此外,数据集覆盖了广泛的常见疾病诊断路径,确保了模型在多种医疗场景下的适用性。通过引入CoT(Chain of Thought)推理机制,数据集进一步增强了模型在复杂医疗问题中的推理能力。
使用方法
使用medical-o1-reasoning-SFT数据集时,首先需要通过Hugging Face的`load_dataset`函数加载数据。随后,可以利用LoRA技术对模型进行精准微调,确保模型在医疗推理任务中的表现达到最优。训练过程中,建议使用wandb进行实时监控,以便及时调整训练参数。训练完成后,模型可以保存为16位精度的格式,并上传至Hugging Face Hub,供进一步部署和应用。
背景与挑战
背景概述
medical-o1-reasoning-SFT数据集是由FreedomIntelligence团队开发,专注于医疗诊断推理领域的中文数据集。该数据集创建于2023年,旨在通过大模型微调技术提升AI在医疗诊断中的推理能力。数据集包含500多个中文医疗场景问答,涵盖常见疾病的诊断路径,并引入了思维链(CoT)推理,使得诊断过程更加透明化。该数据集的推出为医疗AI领域提供了重要的数据支持,推动了AI在医疗诊断中的应用,尤其是在中文语境下的疾病诊断和推理能力提升方面具有显著影响力。
当前挑战
medical-o1-reasoning-SFT数据集在解决医疗诊断推理问题时面临多重挑战。首先,医疗领域的复杂性和专业性要求模型具备高度的知识准确性和推理能力,如何确保模型在诊断过程中不产生误导性建议是一个关键挑战。其次,数据集的构建过程中,如何准确标注医疗场景的思维链推理路径,确保数据的质量和一致性,也是一个技术难点。此外,医疗数据的隐私性和敏感性要求数据处理过程中必须严格遵守相关法律法规,如何在保证数据安全的前提下进行有效的数据收集和标注,是构建该数据集时不可忽视的挑战。
常用场景
经典使用场景
在医疗诊断领域,medical-o1-reasoning-SFT数据集被广泛应用于训练和微调医疗推理模型。通过引入思维链(CoT)推理,该数据集使得模型能够模拟医生的诊断过程,逐步推理出疾病的可能性和治疗方案。这种透明化的推理过程不仅提高了模型的可解释性,还增强了其在复杂医疗场景中的适用性。
衍生相关工作
基于medical-o1-reasoning-SFT数据集,研究者们开发了多种医疗推理模型,如DeepSeek-R1。这些模型通过结合LoRA技术和思维链推理,显著提升了医疗诊断的准确性和效率。此外,该数据集还推动了医疗AI领域的开源社区发展,促进了更多相关研究和应用的涌现。
数据集最近研究
最新研究方向
在医疗人工智能领域,medical-o1-reasoning-SFT数据集的最新研究方向聚焦于提升大模型在医疗诊断中的推理能力。通过引入思维链(CoT)推理技术,该数据集使得AI模型能够更透明地展示其诊断过程,从而增强模型的解释性和可信度。此外,结合LoRA技术进行精准微调,模型在保持高效训练的同时,显著提升了在特定医疗场景下的诊断准确性。这一研究方向不仅推动了医疗AI技术的进步,也为未来实现更加个性化和精准的医疗服务奠定了基础。
以上内容由AI搜集并总结生成
用户留言
有没有相关的论文或文献参考?
这个数据集是基于什么背景创建的?
数据集的作者是谁?
能帮我联系到这个数据集的作者吗?
这个数据集如何下载?
点击留言
数据主题
具身智能
数据集  4099个
机构  8个
大模型
数据集  439个
机构  10个
无人机
数据集  37个
机构  6个
指令微调
数据集  36个
机构  6个
蛋白质结构
数据集  50个
机构  8个
空间智能
数据集  21个
机构  5个
5,000+
优质数据集
54 个
任务类型
进入经典数据集
热门数据集

LIDC-IDRI

LIDC-IDRI 数据集包含来自四位经验丰富的胸部放射科医师的病变注释。 LIDC-IDRI 包含来自 1010 名肺部患者的 1018 份低剂量肺部 CT。

OpenDataLab 收录

China Health and Nutrition Survey (CHNS)

China Health and Nutrition Survey(CHNS)是一项由美国北卡罗来纳大学人口中心与中国疾病预防控制中心营养与健康所合作开展的长期开放性队列研究项目,旨在评估国家和地方政府的健康、营养与家庭计划政策对人群健康和营养状况的影响,以及社会经济转型对居民健康行为和健康结果的作用。该调查覆盖中国15个省份和直辖市的约7200户家庭、超过30000名个体,采用多阶段随机抽样方法,收集了家庭、个体以及社区层面的详细数据,包括饮食、健康、经济和社会因素等信息。自2011年起,CHNS不断扩展,新增多个城市和省份,并持续完善纵向数据链接,为研究中国社会经济变化与健康营养的动态关系提供了重要的数据支持。

www.cpc.unc.edu 收录

广东省标准地图

该数据类主要为广东省标准地图信息。标准地图依据中国和世界各国国界线画法标准编制而成。该数据包括广东省全图、区域地图、地级市地图、县(市、区)地图、专题地图、红色印迹地图等分类。

开放广东 收录

OpenSonarDatasets

OpenSonarDatasets是一个致力于整合开放源代码声纳数据集的仓库,旨在为水下研究和开发提供便利。该仓库鼓励研究人员扩展当前的数据集集合,以增加开放源代码声纳数据集的可见性,并提供一个更容易查找和比较数据集的方式。

github 收录

ZINC

ZINC 是用于虚拟筛选的商用化合物的免费数据库。 ZINC 包含超过 2.3 亿种可购买的即用型 3D 格式化合物。 ZINC 还包含超过 7.5 亿种可购买的化合物,可用于搜索类似物。

OpenDataLab 收录