open-llm-leaderboard-old/details_abideen__NexoNimbus-7B

该数据集是在评估模型abideen/NexoNimbus-7B时自动生成的，主要用于Open LLM Leaderboard的评估。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果存储为特定配置中的一个split，split的名称使用运行的时间戳。train split始终指向最新的结果。此外，数据集还包含一个名为results的配置，用于存储所有运行的聚合结果，并用于在Open LLM Leaderboard上计算和显示聚合指标。

原始信息汇总

数据集概述

数据集摘要

该数据集是在对模型 abideen/NexoNimbus-7B 进行评估运行期间自动创建的，用于 Open LLM Leaderboard。数据集包含 63 个配置，每个配置对应一个评估任务。数据集从 1 次运行中创建，每个运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。"train" 分割始终指向最新的结果。

数据集结构

数据集包含以下配置：

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，分为不同的分割（如 2024_01_13T15_21_36.768833 和 latest），每个分割对应一个或多个 .parquet 文件。

最新结果

以下是 最新结果 的摘要：

python { "all": { "acc": 0.6527701912575271, "acc_stderr": 0.03198148294278928, "acc_norm": 0.6519074704749058, "acc_norm_stderr": 0.03265457793015111, "mc1": 0.46266829865361075, "mc1_stderr": 0.01745464515097059, "mc2": 0.6242663878330903, "mc2_stderr": 0.015486654235984039 }, "harness|arc:challenge|25": { "acc": 0.6825938566552902, "acc_stderr": 0.013602239088038167, "acc_norm": 0.7081911262798635, "acc_norm_stderr": 0.013284525292403516 }, "harness|hellaswag|10": { "acc": 0.7086237801234814, "acc_stderr": 0.004534677750102722, "acc_norm": 0.8786098386775543, "acc_norm_stderr": 0.0032591270576681724 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.34, "acc_stderr": 0.04760952285695235, "acc_norm": 0.34, "acc_norm_stderr": 0.04760952285695235 }, # 其他任务的结果... }

数据加载示例

以下是加载数据集的示例代码：

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_abideen__NexoNimbus-7B", "harness_winogrande_5", split="train")