open-llm-leaderboard-old/details_bn22__tinyllama_frankenmerge

该数据集是在模型bn22/tinyllama_frankenmerge的评估运行期间自动创建的，用于在Open LLM Leaderboard上进行评估。数据集由63个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置中找到，运行的时间戳作为分割名称。train分割始终指向最新结果。此外，results配置存储了所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集简介

该数据集是在对模型 bn22/tinyllama_frankenmerge 进行评估运行期间自动创建的。数据集包含 63 个配置，每个配置对应一个评估任务。数据集从 1 次运行中创建，每个运行的详细信息可以在每个配置中以特定分割形式找到，分割名称使用运行的时间戳。"train" 分割始终指向最新的结果。

数据集结构

• 配置数量: 63
• 分割方式: 每个配置包含特定分割，分割名称使用运行的时间戳，"train" 分割指向最新结果。
• 额外配置: "results" 配置存储所有运行的聚合结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_bn22__tinyllama_frankenmerge", "harness_winogrande_5", split="train")

最新结果

以下是 2024-01-04T13:03:17.010192 运行的最新结果：

python { "all": { "acc": 0.2646989243388527, "acc_stderr": 0.031102353164814696, "acc_norm": 0.265973406703187, "acc_norm_stderr": 0.03187459379138897, "mc1": 0.24969400244798043, "mc1_stderr": 0.015152286907148125, "mc2": 0.4018024343557987, "mc2_stderr": 0.01497649522857516 }, "harness|arc:challenge|25": { "acc": 0.2636518771331058, "acc_stderr": 0.012875929151297049, "acc_norm": 0.30204778156996587, "acc_norm_stderr": 0.013417519144716417 }, "harness|hellaswag|10": { "acc": 0.3995220075682135, "acc_stderr": 0.004887991225950274, "acc_norm": 0.5100577574188409, "acc_norm_stderr": 0.0049887717918545215 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.29, "acc_stderr": 0.04560480215720684, "acc_norm": 0.29, "acc_norm_stderr": 0.04560480215720684 }, # 其他任务的结果... }

配置详情

• harness_arc_challenge_25:

  • 分割: 2024_01_04T13_03_17.010192, latest
  • 路径: **/details_harness|arc:challenge|25_2024-01-04T13-03-17.010192.parquet

• harness_gsm8k_5:

  • 分割: 2024_01_04T13_03_17.010192, latest
  • 路径: **/details_harness|gsm8k|5_2024-01-04T13-03-17.010192.parquet

• harness_hellaswag_10:

  • 分割: 2024_01_04T13_03_17.010192, latest
  • 路径: **/details_harness|hellaswag|10_2024-01-04T13-03-17.010192.parquet

• harness_hendrycksTest_5:

  • 分割: 2024_01_04T13_03_17.010192, latest
  • 路径: 多个路径，包括 abstract_algebra, anatomy, astronomy 等任务的详细信息文件。