open-llm-leaderboard-old/details_adowu__autocodit

该数据集是在模型adowu/autocodit在Open LLM排行榜上进行评估运行期间自动创建的。它包含63个配置，每个配置对应一个评估任务。数据集从一次运行中创建，每次运行都作为一个特定的分割，使用运行的时间戳命名。此外，还有一个名为结果的配置，存储了运行中的聚合结果。该数据集用于计算并在排行榜上显示聚合指标。

原始信息汇总

数据集概述

该数据集是在评估模型 adowu/autocodit 在 Open LLM Leaderboard 上的运行过程中自动创建的。数据集包含 63 个配置，每个配置对应一个评估任务。

数据集结构

• 配置数量：63 个配置
• 数据来源：从 1 次运行中创建
• 数据分割：每个配置包含特定分割，分割名称使用运行的时间戳。"train" 分割指向最新的结果。
• 额外配置："results" 配置存储所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_adowu__autocodit", "harness_winogrande_5", split="train")

最新结果

以下是 2024-04-09T23:34:28.118366 运行的最新结果：

python { "all": { "acc": 0.6524065123270387, "acc_stderr": 0.0320858937370758, "acc_norm": 0.6545075549664084, "acc_norm_stderr": 0.03273202066576064, "mc1": 0.42962056303549573, "mc1_stderr": 0.017329234580409105, "mc2": 0.5995452190235323, "mc2_stderr": 0.015009614915454227 }, "harness|arc:challenge|25": { "acc": 0.6339590443686007, "acc_stderr": 0.01407722310847014, "acc_norm": 0.6638225255972696, "acc_norm_stderr": 0.01380485502620576 }, "harness|hellaswag|10": { "acc": 0.6473809998008365, "acc_stderr": 0.004768088918512182, "acc_norm": 0.8482374029077873, "acc_norm_stderr": 0.0035805735633736564 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.38, "acc_stderr": 0.048783173121456316, "acc_norm": 0.38, "acc_norm_stderr": 0.048783173121456316 }, ... }

配置详情

• harness_arc_challenge_25

  • 分割：2024_04_09T23_34_28.118366, latest
  • 路径：**/details_harness|arc:challenge|25_2024-04-09T23-34-28.118366.parquet

• harness_gsm8k_5

  • 分割：2024_04_09T23_34_28.118366, latest
  • 路径：**/details_harness|gsm8k|5_2024-04-09T23-34-28.118366.parquet

• harness_hellaswag_10

  • 分割：2024_04_09T23_34_28.118366, latest
  • 路径：**/details_harness|hellaswag|10_2024-04-09T23-34-28.118366.parquet

• harness_hendrycksTest_5

  • 分割：2024_04_09T23_34_28.118366, latest
  • 路径：多个路径，包括 abstract_algebra, anatomy, astronomy 等任务的详细结果文件。

以上是数据集的详细概述，包括数据集的结构、加载示例、最新结果以及各个配置的详细信息。