five

open-llm-leaderboard-old/details_saarvajanik__facebook-opt-6.7b-gqa-ub-16-best-for-KV-cache

收藏
Hugging Face2024-01-28 更新2024-06-22 收录
下载链接:
https://hf-mirror.com/datasets/open-llm-leaderboard-old/details_saarvajanik__facebook-opt-6.7b-gqa-ub-16-best-for-KV-cache
下载链接
链接失效反馈
官方服务:
资源简介:
该数据集是在模型saarvajanik/facebook-opt-6.7b-gqa-ub-16-best-for-KV-cache的评估运行期间自动创建的,包含63个配置,每个配置对应一个评估任务。数据集由1次运行生成,每次运行的结果存储为特定配置中的一个分割,分割名称使用运行的时间戳。train分割始终指向最新的结果。此外,results配置存储了所有运行的聚合结果,用于计算和显示在Open LLM Leaderboard上的聚合指标。

该数据集是在模型saarvajanik/facebook-opt-6.7b-gqa-ub-16-best-for-KV-cache的评估运行期间自动创建的,包含63个配置,每个配置对应一个评估任务。数据集由1次运行生成,每次运行的结果存储为特定配置中的一个分割,分割名称使用运行的时间戳。train分割始终指向最新的结果。此外,results配置存储了所有运行的聚合结果,用于计算和显示在Open LLM Leaderboard上的聚合指标。
提供机构:
open-llm-leaderboard-old
原始信息汇总

数据集概述

数据集基本信息

数据集结构

  • 数据集创建: 从1次运行中创建,每个运行可以在每个配置中作为一个特定的分割找到,分割名称使用运行的时间戳。
  • 最新结果: "train"分割总是指向最新的结果。
  • 结果汇总: 一个额外的配置"results"存储所有运行的汇总结果,用于计算和显示在Open LLM Leaderboard上的汇总指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_saarvajanik__facebook-opt-6.7b-gqa-ub-16-best-for-KV-cache", "harness_winogrande_5", split="train")

最新结果

  • 最新结果时间戳: 2024-01-28T18:15:46.929459
  • 结果示例: python { "all": { "acc": 0.23209302149061675, "acc_stderr": 0.02992707807148158, "acc_norm": 0.23163380863022787, "acc_norm_stderr": 0.03071316471647595, "mc1": 0.23011015911872704, "mc1_stderr": 0.014734557959807763, "mc2": 0.48987576662324334, "mc2_stderr": 0.016135847085052512 }, "harness|arc:challenge|25": { "acc": 0.2022184300341297, "acc_stderr": 0.011737454431872104, "acc_norm": 0.23037542662116042, "acc_norm_stderr": 0.01230492841874761 }, "harness|hellaswag|10": { "acc": 0.25951005775741887, "acc_stderr": 0.004374699189284863, "acc_norm": 0.25941047600079664, "acc_norm_stderr": 0.004374153847826759 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.22, "acc_stderr": 0.04163331998932268, "acc_norm": 0.22, "acc_norm_stderr": 0.04163331998932268 },

    其他任务的结果...

}

配置信息

  • 配置名称: 如harness_arc_challenge_25, harness_gsm8k_5, harness_hellaswag_10, harness_hendrycksTest_5等。
  • 数据文件: 每个配置包含不同分割的数据文件路径,如2024_01_28T18_15_46.929459latest
二维码
社区交流群
二维码
科研交流群
商业服务