遇见数据集

面向异构硬件性能与推理时间预测的多模型细粒度算力度量数据集

收藏
官方服务:

资源简介:

该数据集通过在硬件层面选取NVIDIA T4、V100、A100等GPU,Intel Core i9-13900HX、Xeon Platinum 8260L等CPU,Ascend 310B1、310B4等NPU,以及ALINX AX7021、AC7A200等FPGA作为代表性平台;在模型层面选取 ResNet50、ShuffleNet v2、Inception v3等计算机视觉模型,以及BERT、GPT2、OPT等大语言模型。采集流程通过集成NVIDIA Nsight Compute、Intel VTune、CANN Profiling等原生工具链并开发统一的插桩代理,对任务执行过程进行算子信息的采集。模型在推理与训练迭代(Iteration)过程中,通过在算子调度与执行边界处插入时间戳与事件标记,捕获算子的启动、结束及其在不同计算单元上的实际执行行为,结合算子调度与底层执行时间线信息,实现算子与底层执行单元之间的精确映射,最终导出包含算子名称、精确耗时、静态内存驻留、实际带宽吞吐及计算峰值等关键指标的标准化剖析文件。

提供机构:
西北工业大学
二维码
社区交流群
二维码
科研交流群
商业服务