遇见数据集

支持稀疏张量分析变换的插桩系统代码

收藏
官方服务:

资源简介:

本项目提供一套专为神经网络稀疏分析与变换设计的插桩系统Amanda,旨在支持大规模模型在训练与推理过程中的动态分析与结构优化。系统构建跨语言函数拦截机制,能够在不改动模型源代码的前提下,对PyTorch与TensorFlow等主流框架中的稠密/稀疏算子进行精确插桩,适配graph与eager两种执行模式,确保广泛的模型与平台兼容性。Amanda支持稀疏度测量、稀疏结构注入与调优、性能分析与可解释性路径追踪等任务,具备稳定ID生成与缓存管理能力,显著降低插桩过程中的系统开销并提升分析效率。系统在多个经典神经网络(如ResNet、BERT)上评估,延迟开销低于1%,在保持插桩精度的同时,实现多达72倍的加速效果,适用于稀疏图计算、模型压缩及系统诊断等多种研究与工业场景。

提供机构:
上海交通大学
搜集汇总
数据集介绍
支持稀疏张量分析变换的插桩系统代码 数据集图片
背景与挑战
背景概述
该数据集提供了一套名为Amanda的插桩系统,专为神经网络稀疏分析与变换设计,支持在不改动源代码的情况下对PyTorch和TensorFlow等框架进行精确插桩,实现稀疏度测量、结构优化和性能分析。系统在ResNet、BERT等经典模型上评估,延迟开销低于1%,并实现高达72倍的加速效果,适用于稀疏图计算、模型压缩及系统诊断等多种场景。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务