open-llm-leaderboard-old/details_google__gemma-2b-it

该数据集是在模型google/gemma-2b-it在Open LLM Leaderboard上的评估运行期间自动创建的。数据集由63个配置组成，每个配置对应一个被评估的任务。数据集是从1次运行中生成的，每次运行在每个配置中表示为特定的分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。一个名为results的额外配置存储了运行的所有聚合结果，这些结果用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了如何使用Python中的datasets库加载运行细节的示例。

原始信息汇总

数据集概述

该数据集是在对模型 google/gemma-2b-it 进行评估运行期间自动创建的，用于 Open LLM Leaderboard。

数据集组成

• 数据集由 63 个配置组成，每个配置对应一个评估任务。
• 数据集从 1 次运行中创建，每次运行可以在每个配置中找到特定的拆分，拆分名称使用运行的时间戳。
• "train" 拆分始终指向最新的结果。
• 一个额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_google__gemma-2b-it", "harness_winogrande_5", split="train")

最新结果

以下是 2024-02-22T15:21:47.760131 运行的最新结果：

python { "all": { "acc": 0.37718990524507395, "acc_stderr": 0.03382258665978276, "acc_norm": 0.3817941191023956, "acc_norm_stderr": 0.03463067200858019, "mc1": 0.29008567931456547, "mc1_stderr": 0.01588623687420952, "mc2": 0.45823771048471756, "mc2_stderr": 0.01592882772091717 }, "harness|arc:challenge|25": { "acc": 0.4044368600682594, "acc_stderr": 0.014342036483436172, "acc_norm": 0.439419795221843, "acc_norm_stderr": 0.01450374782358013 }, "harness|hellaswag|10": { "acc": 0.48078072097191793, "acc_stderr": 0.004986093791041649, "acc_norm": 0.6269667396932882, "acc_norm_stderr": 0.004826224784850447 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.28, "acc_stderr": 0.045126085985421276, "acc_norm": 0.28, "acc_norm_stderr": 0.045126085985421276 }, ... }

配置详情

• harness_arc_challenge_25

  • 拆分：2024_02_22T15_21_47.760131, latest
  • 路径：**/details_harness|arc:challenge|25_2024-02-22T15-21-47.760131.parquet

• harness_gsm8k_5

  • 拆分：2024_02_22T15_21_47.760131, latest
  • 路径：**/details_harness|gsm8k|5_2024-02-22T15-21-47.760131.parquet

• harness_hellaswag_10

  • 拆分：2024_02_22T15_21_47.760131, latest
  • 路径：**/details_harness|hellaswag|10_2024-02-22T15-21-47.760131.parquet

• harness_hendrycksTest_5

  • 拆分：2024_02_22T15_21_47.760131, latest
  • 路径：多个路径，如 **/details_harness|hendrycksTest-abstract_algebra|5_2024-02-22T15-21-47.760131.parquet 等