浙江宁数健康大数据运营有限公司

通过模型的数据处理、模型训练、模型微调，为医生提供患者在住院就诊过程提供辅助诊断建议。通过卫生健康领域公共数据的授权运营，从就诊信息、病例信息、化验信息等多数据融合，构建模型辅助诊断数据库。（1）数据来源：原始数据来源于宁波市公共数据授权，数据提供单位为宁波市卫生健康委。 （2）数据预处理：清洗原始数据表中有重复、低质量、缺失的数据。 （3）数据脱敏：从数据中筛除患者个人敏感信息，对个人信息进行匿名化处理，确保不可通过可逆模型或算法进行还原。 （4）模型和深度学习架构选择：基于Transformer架构的大规模语言模型，采用卷积神经网络（CNN）作为深度学习架构。 （5）数据训练：首先将输入的文本数据如患者编号转换为id_no，并将生成的子词标识转换为唯一ID序列，将每个ID映射到一个固定维度的向量，生成一个向量序列作为模型的初始输入表示。将就诊医院、化验项目、化验指标、检测结果等文本数据转换为org_name、assay_item_name、assay_item_no、result等可识别文本放入统一向量序列中。通过模型的decoder layer组件和MLP将输出结果转换为语义信息，通过定义合适的损失函数使模型进行优化学习。 （6）模型推理验证：通过常用的评价指标，比如BLEU、ROUGE分数进行评测，并通过比照医疗健康知识库的方式对模型输出结果进行验证。