open-llm-leaderboard-old/details_CausalLM__7B

该数据集是在Open LLM Leaderboard上对CausalLM/7B模型进行评估时自动创建的。数据集由64个配置组成，每个配置对应一个评估任务。数据集包含一次运行的结果，每次运行都作为一个特定的分割存储，分割名称由运行的时间戳命名。train分割始终指向最新的结果。此外，还有一个results配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了如何使用`datasets`库中的`load_dataset`函数加载数据集的示例。

原始信息汇总

数据集概述

数据集名称

Evaluation run of CausalLM/7B

数据集来源

该数据集是在对模型 CausalLM/7B 进行评估运行期间自动创建的，评估结果发布在 Open LLM Leaderboard 上。

数据集组成

数据集包含 64 个配置，每个配置对应一个评估任务。每个配置中包含多个运行结果，每个运行的结果以时间戳命名的 split 形式存储。"train" split 始终指向最新的结果。

数据集结构

• 配置名称: 每个配置对应一个特定的评估任务。
• 数据文件: 每个配置包含多个 split，每个 split 对应一个特定时间的运行结果。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_CausalLM__7B_public", "harness_winogrande_5", split="train")

最新结果

以下是 2023-11-19T10:15:27.073071 运行 的最新结果：

python { "all": { "acc": 0.6094831324044202, "acc_stderr": 0.0327856640395233, "acc_norm": 0.6180866854509012, "acc_norm_stderr": 0.03347186592408746, "mc1": 0.3537331701346389, "mc1_stderr": 0.016737814358846147, "mc2": 0.5012670346064317, "mc2_stderr": 0.015282424019072406, "em": 0.3381921140939597, "em_stderr": 0.0048449283464877275, "f1": 0.4114880453020153, "f1_stderr": 0.00471092648573539 }, ... }

配置详情

• harness_arc_challenge_25: 包含 2023_11_19T10_15_27.073071 和 latest 两个 split。
• harness_drop_3: 包含 2023_11_19T10_15_27.073071 和 latest 两个 split。
• harness_gsm8k_5: 包含 2023_11_19T10_15_27.073071 和 latest 两个 split。
• harness_hellaswag_10: 包含 2023_11_19T10_15_27.073071 和 latest 两个 split。
• harness_hendrycksTest_5: 包含多个任务的 2023_11_19T10_15_27.073071 和 latest 两个 split。