open-llm-leaderboard-old/details_grimjim__fireblossom-32K-7B

该数据集是在模型 grimjim/fireblossom-32K-7B 在 Open LLM Leaderboard 上进行评估时自动生成的。数据集包含 63 个配置，每个配置对应一个被评估的任务。它包含一次或多次运行的结果，每次运行都作为一个特定的分割存储，分割名称由运行的时间戳命名。train 分割始终指向最新的结果。此外，还有一个 results 配置，用于汇总所有运行结果，这些结果用于计算和显示 Open LLM Leaderboard 上的指标。README 还提供了一个 Python 代码片段用于加载数据集，并列出了特定运行的最新结果。

原始信息汇总

数据集概述

数据集组成

• 该数据集包含63个配置，每个配置对应一个评估任务。
• 数据集由1次运行创建，每个运行的详细结果存储在特定的分割中，分割名称使用运行的时间戳。
• “train”分割始终指向最新的结果。
• 一个额外的配置“results”存储所有运行的聚合结果，用于计算和显示在Open LLM Leaderboard上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_grimjim__fireblossom-32K-7B", "harness_winogrande_5", split="train")

最新结果

• 最新结果来自2024-04-15T22:42:50.972848运行，包含多个任务的评估指标。
• 示例结果： python { "all": { "acc": 0.6379699324640299, "acc_stderr": 0.032550890016365935, "acc_norm": 0.6394726476772842, "acc_norm_stderr": 0.033207498563488674, "mc1": 0.46266829865361075, "mc1_stderr": 0.017454645150970588, "mc2": 0.6312291783991927, "mc2_stderr": 0.015522977689943793 }, "harness|arc:challenge|25": { "acc": 0.6646757679180887, "acc_stderr": 0.01379618294778556, "acc_norm": 0.6996587030716723, "acc_norm_stderr": 0.013395909309957004 }, "harness|hellaswag|10": { "acc": 0.6772555267874926, "acc_stderr": 0.0046657042083390445, "acc_norm": 0.8647679745070703, "acc_norm_stderr": 0.0034127234117275517 }, # 其他任务的结果... }

配置详情

• 每个配置包含特定任务的数据文件，分为不同的时间戳分割和最新的分割。
• 示例配置：
  • harness_arc_challenge_25
  • harness_gsm8k_5
  • harness_hellaswag_10
  • harness_hendrycksTest_5
  • 其他配置...

数据文件路径

• 每个配置的数据文件路径示例：
  • harness_arc_challenge_25:
    • **/details_harness|arc:challenge|25_2024-04-15T22-42-50.972848.parquet
  • harness_gsm8k_5:
    • **/details_harness|gsm8k|5_2024-04-15T22-42-50.972848.parquet
  • harness_hellaswag_10:
    • **/details_harness|hellaswag|10_2024-04-15T22-42-50.972848.parquet
  • harness_hendrycksTest_5:
    • **/details_harness|hendrycksTest-abstract_algebra|5_2024-04-15T22-42-50.972848.parquet
    • 其他任务文件路径...