beetrillion/GPTQ-for-LLaMa

Name: beetrillion/GPTQ-for-LLaMa
Creator: beetrillion
Published: 2024-06-29T20:30:10+08:00

Hugging Face2024-06-10 更新2024-06-29 收录

语言模型量化

模型压缩

数据链接：

https://hf-mirror.com/datasets/beetrillion/GPTQ-for-LLaMa 数据链接链接失效反馈

官方服务：

资源简介：

--- license: gpl ---

许可证：GNU通用公共许可证（GNU General Public License，简称GPL）

提供机构：

beetrillion

neuralmagic/LLM_compression_calibration

大语言模型

模型压缩

该数据集是Neural Magic用于大型语言模型（LLMs）一次性压缩校准的默认校准数据集。当前版本的数据集从garage-bAInd/Open-Platypus中编译而来，包含10,000个样本。数据集包含两个字段：text用于当聊天模板不可用时的文本输入，messages包含用户和助手角色的字典条目，用于与聊天模板一起使用。

Hugging Face2024-06-27 更新420

Sparsity of each model (Ratio of zero weights between the hidden layer and the output layer).

神经网络稀疏性

模型压缩

Sparsity of each model (Ratio of zero weights between the hidden layer and the output layer).

NIAID Data Ecosystem20

Experimental results of global pruning and knowledge distillation performance of the model.

模型压缩

深度学习优化

Experimental results of global pruning and knowledge distillation performance of the model.

NIAID Data Ecosystem10

Resnet152非线性稀疏压缩后模型

模型压缩

边缘计算

本数据集为国家重点研发计划科技创新2030-“新一代人工智能”重大项目（项目编号：2022ZD0162300）“面向硬件加速的通用视觉模型压缩技术研究”成果之一，核心内容是经过非线性稀疏压缩处理后的Resnet152模型相关数据，用于支撑通用视觉模型边缘端硬件部署的技术验证与应用拓展。主要数据项包括：Resnet152模型经Sparse-ReLU新型激活函数优化后的网络结构配置参数、各层非线性稀疏

国家基础学科公共科学数据中心60

Comparison of trainable parameters and model sizes of ViT variants and the proposed CNN-ViT model.

计算机视觉模型

模型压缩

Comparison of trainable parameters and model sizes of ViT variants and the proposed CNN-ViT model.

NIAID Data Ecosystem10