--- dataset_info: features: - name: id dtype: string - name: sample_id dtype: int64 - name: question_statement dtype: string - name: thinking_trajectory sequence: string -

Hugging Face2024-10-26 更新50

christopherthompson81/quant_exploration

模型量化

性能评估

该数据集是一个关于LLM（大语言模型）量化影响的比较分析，特别是针对Llama.cpp量化在单个2x7B模型上的定性性能退化。数据集详细介绍了量化相关的两个关键指标：困惑度（perplexity）和压缩率（compression），并提供了不同量化方法下的性能对比。此外，数据集还描述了测试设置，包括使用的模型、量化过程、输入数据以及测试命令。

Hugging Face2024-02-06 更新290

MLPerf Inference BERT sparse model on SQuAD v1.1 dataset

机器阅读理解

推理优化

BERT Large. { "hidden-size": 1024, "num-attention-heads": 16, "num-layers": 24, "max-seq-length": 384 } Fine tuned model for sparsity.

Zenodo2020-09-15 更新50