面向超大批量并行训练的神经网络优化理论支撑数据

项目组针对超大批量模型训练过程中协同映射到并行处理的频繁同步所导致的并行计算效率低、可扩展性差的问题，研究基于国产自主异构众核系统的多模态深度学习并行处理优化理论与方法，通过对其中的易用性、通信、算法协同以及可靠性与负载均衡等关键问题的深入探索，研究稳定可扩展的跨域异构众核大批量训练并行处理优化方法。本数据集基于以上研究内容建设，包括快速梯度下降测试数据、第三方测试数据、论文等成果数据。快速梯度下降测试数据包含数据集下载网址以及快速梯度下降算法收敛时间实验数据。第三方测试数据包括第三方测试大纲、第三方测试所需数据及算法代码、第三方测试报告。成果数据包括论文3篇、专利2项、软著3个。数据集体量为191.35MB。