open-llm-leaderboard/details_frankenmerger__MiniLlama-1.8b-Chat-v0.1

该数据集是在Open LLM Leaderboard上对模型frankenmerger/MiniLlama-1.8b-Chat-v0.1进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置的特定分割中找到，分割以运行的时间戳命名。train分割始终指向最新的结果。此外，还有一个名为results的配置存储了所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集摘要

该数据集是在评估模型 frankenmerger/MiniLlama-1.8b-Chat-v0.1 在 Open LLM Leaderboard 上的自动创建的。数据集包含 63 个配置，每个配置对应一个评估任务。

数据集结构

• 配置数量: 63
• 创建来源: 1 次运行
• 分割: 每个配置包含特定分割，分割名称使用运行的时间戳。"train" 分割指向最新结果。
• 额外配置: "results" 存储所有运行结果的聚合，用于计算和显示聚合指标。

加载数据示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_frankenmerger__MiniLlama-1.8b-Chat-v0.1", "harness_winogrande_5", split="train")

最新结果

最新结果来自 2024-03-22T02:23:05.142746 运行，包含多个任务的评估结果。以下是部分结果示例：

python { "all": { "acc": 0.26333069697810496, "acc_stderr": 0.030944678769896282, "acc_norm": 0.2646365173099782, "acc_norm_stderr": 0.031697601596327105, "mc1": 0.24479804161566707, "mc1_stderr": 0.01505186948671501, "mc2": 0.38972190322728184, "mc2_stderr": 0.014251916177565011 }, "harness|arc:challenge|25": { "acc": 0.3302047781569966, "acc_stderr": 0.013743085603760426, "acc_norm": 0.34726962457337884, "acc_norm_stderr": 0.013913034529620446 }, "harness|hellaswag|10": { "acc": 0.46614220274845647, "acc_stderr": 0.004978328190775522, "acc_norm": 0.6237801234813782, "acc_norm_stderr": 0.004834461997944869 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.25, "acc_stderr": 0.04351941398892446, "acc_norm": 0.25, "acc_norm_stderr": 0.04351941398892446 }, # 更多任务结果... }

配置详情

• harness_arc_challenge_25:

  • 分割: 2024_03_22T02_23_05.142746, latest
  • 路径: **/details_harness|arc:challenge|25_2024-03-22T02-23-05.142746.parquet

• harness_gsm8k_5:

  • 分割: 2024_03_22T02_23_05.142746, latest
  • 路径: **/details_harness|gsm8k|5_2024-03-22T02-23-05.142746.parquet

• harness_hellaswag_10:

  • 分割: 2024_03_22T02_23_05.142746, latest
  • 路径: **/details_harness|hellaswag|10_2024-03-22T02-23-05.142746.parquet

• harness_hendrycksTest_5:

  • 分割: 2024_03_22T02_23_05.142746, latest
  • 路径: 多个路径，包括 **/details_harness|hendrycksTest-abstract_algebra|5_2024-03-22T02-23-05.142746.parquet 等