mit-han-lab/QServe-benchmarks
收藏Hugging Face2025-02-15 更新2024-06-12 收录
下载链接：
https://hf-mirror.com/datasets/mit-han-lab/QServe-benchmarks
下载链接
链接失效反馈官方服务：
资源简介：
QServe benchmarks数据集包含了QServe项目中用于基准测试的所有模型的配置和分词器文件。这些文件支持用户在不克隆完整模型的情况下运行QServe基准测试代码。
This dataset, QServe benchmarks, includes the configuration and tokenizer files for all models benchmarked in the QServe project. These files allow users to run the QServe benchmark code without cloning the full models.
提供机构：
mit-han-lab
原始信息汇总
QServe benchmarks 数据集概述
数据集内容
- 包含以下模型的配置和分词器文件：
- Llama-3-8B
- Llama-2-7B
- Llama-2-13B
- Llama-2-70B
- Llama-30B
- Mistral-7B
- Yi-34B
- Qwen1.5-72B
使用目的
- 用于运行 QServe 基准测试代码，无需克隆完整模型。
