open-llm-leaderboard-old/details_Fredithefish__OpenZephyrChat

该数据集是在Open LLM Leaderboard上对模型Fredithefish/OpenZephyrChat进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集由2次运行创建，每次运行在每个配置中作为一个特定的分割找到，train分割始终指向最新结果。一个额外的配置results存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。文件还提供了如何使用Python代码加载运行细节的示例，并包含了特定运行的最新结果。

原始信息汇总

数据集概述

数据集组成

• 该数据集包含63个配置，每个配置对应一个评估任务。
• 数据集由2次运行结果组成，每次运行的结果可以在每个配置中找到，以运行的时间戳命名的特定分割形式存储。
• "train"分割始终指向最新的结果。

额外配置

• 一个名为"results"的额外配置存储了所有运行的聚合结果，用于计算和显示在Open LLM Leaderboard上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_Fredithefish__OpenZephyrChat", "harness_winogrande_5", split="train")

最新结果

• 最新结果来自2023-12-11T01:34:50.258646的运行，包含多个任务的评估结果，具体结果如下：

python { "all": { "acc": 0.6516436356967714, "acc_stderr": 0.03194890805986729, "acc_norm": 0.6526191805877333, "acc_norm_stderr": 0.03259872006364224, "mc1": 0.3268053855569155, "mc1_stderr": 0.01641987473113503, "mc2": 0.4824339066763302, "mc2_stderr": 0.015163614263653211 }, "harness|arc:challenge|25": { "acc": 0.6203071672354948, "acc_stderr": 0.014182119866974872, "acc_norm": 0.6484641638225256, "acc_norm_stderr": 0.013952413699600933 }, "harness|hellaswag|10": { "acc": 0.6681935869348735, "acc_stderr": 0.004698995789478832, "acc_norm": 0.8508265285799641, "acc_norm_stderr": 0.0035553128780523914 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.37, "acc_stderr": 0.048523658709391, "acc_norm": 0.37, "acc_norm_stderr": 0.048523658709391 }, # 其他任务的结果省略... }

配置详情

• 数据集包含多个配置，每个配置对应不同的任务和运行结果。例如：
  • harness_arc_challenge_25
  • harness_gsm8k_5
  • harness_hellaswag_10
  • harness_hendrycksTest_5

每个配置包含多个分割，每个分割对应不同的运行时间戳，以及最新的结果。