open-llm-leaderboard/details_nicholasKluge__Aira-Instruct-355M

该数据集是在评估模型nicholasKluge/Aira-Instruct-355M时自动创建的，包含61个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新结果。此外，results配置存储了所有运行的聚合结果，用于计算和显示在Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集信息

• 名称: Evaluation run of nicholasKluge/Aira-Instruct-355M
• 来源: 在评估模型 nicholasKluge/Aira-Instruct-355M 时自动创建的数据集。
• 评估平台: Open LLM Leaderboard

数据集组成

• 配置数量: 61个配置，每个配置对应一个评估任务。
• 创建次数: 数据集从1次运行中创建，每个运行在每个配置中有一个特定的分割，分割名称使用运行的时间戳。
• 最新结果: "train" 分割始终指向最新的结果。
• 结果汇总: 一个额外的配置 "results" 存储所有运行的汇总结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_nicholasKluge__Aira-Instruct-355M", "harness_truthfulqa_mc_0", split="train")

最新结果

• 运行时间: 2023-08-10T09:16:32.685819
• 详细结果: 包含多个任务的评估结果，例如：
  • harness|arc:challenge|25: 准确率 (acc) 为 0.23890784982935154，标准化准确率 (acc_norm) 为 0.28668941979522183。
  • harness|hellaswag|10: 准确率 (acc) 为 0.3311093407687712，标准化准确率 (acc_norm) 为 0.39225253933479387。
  • harness|hendrycksTest-abstract_algebra|5: 准确率 (acc) 为 0.27，标准化准确率 (acc_norm) 为 0.27。
  • 其他任务的结果详见完整数据集。

配置详情

• 配置名称: harness_arc_challenge_25

  • 数据文件:
    • 分割: 2023_08_10T09_16_32.685819
      • 路径: **/details_harness|arc:challenge|25_2023-08-10T09:16:32.685819.parquet
    • 分割: latest
      • 路径: **/details_harness|arc:challenge|25_2023-08-10T09:16:32.685819.parquet

• 配置名称: harness_hellaswag_10

  • 数据文件:
    • 分割: 2023_08_10T09_16_32.685819
      • 路径: **/details_harness|hellaswag|10_2023-08-10T09:16:32.685819.parquet
    • 分割: latest
      • 路径: **/details_harness|hellaswag|10_2023-08-10T09:16:32.685819.parquet

• 配置名称: harness_hendrycksTest_5

  • 数据文件:
    • 分割: 2023_08_10T09_16_32.685819
      • 路径: 包含多个任务的详细路径，例如 **/details_harness|hendrycksTest-abstract_algebra|5_2023-08-10T09:16:32.685819.parquet 等。