open-llm-leaderboard-old/details_allknowingroger__FrankenLong-15B-passthrough

该数据集是在模型 allknowingroger/FrankenLong-15B-passthrough 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 63 个配置组成，每个配置对应一个评估任务。它包含 1 次运行的结果，每次运行在每个配置中表示为特定的分割。train 分割始终指向最新结果。一个额外的配置 results 存储了所有运行的聚合结果。可以使用 Hugging Face 的 datasets 库加载该数据集。

原始信息汇总

数据集概述

该数据集是在对模型 allknowingroger/FrankenLong-15B-passthrough 进行评估运行期间自动创建的。数据集包含 63 个配置，每个配置对应一个评估任务。数据集从 1 次运行中创建，每次运行的详细信息可以在每个配置中找到，并以运行的时间戳命名。"train" 分割始终指向最新的结果。

数据集结构

配置

• results: 存储所有运行结果的聚合结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

示例加载

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_allknowingroger__FrankenLong-15B-passthrough", "harness_winogrande_5", split="train")

最新结果

以下是 2024-04-11T08:23:35.335626 运行的最新结果：

python { "all": { "acc": 0.24540239366183794, "acc_stderr": 0.030571557769658596, "acc_norm": 0.24658088053054075, "acc_norm_stderr": 0.03138624578542628, "mc1": 0.23623011015911874, "mc1_stderr": 0.014869755015871086, "mc2": 0.4895265981417741, "mc2_stderr": 0.016899411744816118 }, "harness|arc:challenge|25": { "acc": 0.23293515358361774, "acc_stderr": 0.012352507042617386, "acc_norm": 0.2909556313993174, "acc_norm_stderr": 0.01327307786590758 }, "harness|hellaswag|10": { "acc": 0.25124477195777734, "acc_stderr": 0.00432842570099869, "acc_norm": 0.2605058753236407, "acc_norm_stderr": 0.004380136468543945 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.35, "acc_stderr": 0.0479372485441102, "acc_norm": 0.35, "acc_norm_stderr": 0.0479372485441102 }, # 其他任务的结果... }

配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5
• harness_winogrande_5
• harness_truthfulqa:mc_0
• harness_gsm8k_5

数据文件路径

• 每个配置包含多个数据文件，路径格式为 **/details_<任务名称>_<时间戳>.parquet。

联系信息

• 联系人：[e-mail]