open-llm-leaderboard-old/details_R136a1__InfinityLake-2x7B

该数据集是在Open LLM Leaderboard上对模型R136a1/InfinityLake-2x7B进行评估时自动创建的。它由63个配置组成，每个配置对应一个评估任务。数据集是从1次运行中生成的，每次运行在每个配置中表示为特定的分割。train分割始终指向最新的结果。一个名为results的额外配置存储了运行的所有聚合结果，这些结果用于计算和显示Open LLM Leaderboard上的聚合指标。可以使用`datasets`库中的`load_dataset`函数加载该数据集。

原始信息汇总

数据集概述

数据集信息

• 名称: Evaluation run of R136a1/InfinityLake-2x7B
• 来源: 自动创建于模型 R136a1/InfinityLake-2x7B 在 Open LLM Leaderboard 的评估运行。
• 组成: 包含63个配置，每个配置对应一个评估任务。
• 创建: 从1次运行中创建，每个运行在每个配置中作为一个特定的分割，分割名称使用运行的时间戳。"train" 分割始终指向最新的结果。
• 额外配置: "results" 配置存储所有运行的聚合结果，用于计算和显示聚合指标在 Open LLM Leaderboard。

最新结果

• 运行时间: 2024-04-15T21:42:42.681302
• 聚合结果:
  • 总体:
    • acc: 0.6486382462893618
    • acc_stderr: 0.03218860377821126
    • acc_norm: 0.648769127038304
    • acc_norm_stderr: 0.03285634124861645
    • mc1: 0.46266829865361075
    • mc1_stderr: 0.01745464515097059
    • mc2: 0.6137503471716889
    • mc2_stderr: 0.015511399292467727
  • 具体任务结果:
    • harness|arc:challenge|25:
      • acc: 0.6706484641638225
      • acc_stderr: 0.013734057652635474
      • acc_norm: 0.7056313993174061
      • acc_norm_stderr: 0.01331852846053942
    • harness|hellaswag|10:
      • acc: 0.7005576578370842
      • acc_stderr: 0.004570777326263903
      • acc_norm: 0.8740290778729337
      • acc_norm_stderr: 0.003311384498158646
    • harness|hendrycksTest-abstract_algebra|5:
      • acc: 0.36
      • acc_stderr: 0.04824181513244218
      • acc_norm: 0.36
      • acc_norm_stderr: 0.04824181513244218
    • 其他任务结果详见完整文档。

配置信息

• 配置名称:
  • harness_arc_challenge_25
  • harness_gsm8k_5
  • harness_hellaswag_10
  • harness_hendrycksTest_5
• 数据文件:
  • 每个配置包含多个数据文件，路径格式为 **/details_<任务名称>_2024-04-15T21-42-42.681302.parquet，包括 2024_04_15T21_42_42.681302 和 latest 分割。