open-llm-leaderboard/details_automerger__PasticheInex12-7B

该数据集是在模型automerger/PasticheInex12-7B评估运行期间自动创建的，用于Open LLM排行榜。数据集包含63个配置，每个配置对应一个评估任务。数据集来源于一次运行，每次运行作为一个特定分割，以运行的时间戳命名。train分割始终指向最新结果。此外，results配置存储了运行的所有聚合结果，用于在排行榜上计算和显示聚合指标。数据集还提供了加载特定运行详细信息的Python代码示例，并展示了特定运行的最新结果。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of automerger/PasticheInex12-7B

数据集描述

• dataset_summary: 该数据集是在评估模型automerger/PasticheInex12-7B的过程中自动创建的，该模型在Open LLM Leaderboard上进行评估。

数据集组成

• 数据结构: 数据集由63个配置组成，每个配置对应一个评估任务。
• 创建过程: 数据集从1次运行中创建，每次运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳命名。
• 特殊配置: 存在一个名为"results"的额外配置，存储所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_automerger__PasticheInex12-7B", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-04-02T18:20:31.992956的运行结果，包含多个任务的评估数据。
• 结果内容: 包含多个任务的准确率(acc)、标准误差(acc_stderr)、归一化准确率(acc_norm)和归一化准确率的标准误差(acc_norm_stderr)等指标。

数据集配置详情

• 配置列表:
  • config_name: harness_arc_challenge_25
  • config_name: harness_gsm8k_5
  • config_name: harness_hellaswag_10
  • config_name: harness_hendrycksTest_5
• 数据文件: 每个配置包含多个数据文件，每个文件对应一个特定的时间戳或最新的数据分割。

以上信息提供了数据集的基本结构、内容和使用方法，以及如何访问和加载数据集中的特定配置和数据。