open-llm-leaderboard/details_dozzke__hermorca

该数据集是在Open LLM Leaderboard上对模型dozzke/hermorca进行评估时自动生成的。数据集由63个配置组成，每个配置对应一个评估任务。数据集由2次运行生成，每次运行在每个配置中表示为特定的分割，分割名称由运行的时间戳命名。train分割始终指向最新的结果。一个名为results的额外配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了如何使用Hugging Face datasets库加载运行细节的示例。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of dozzke/hermorca

数据集创建背景

• dataset_summary: 该数据集是在评估模型dozzke/hermorca运行期间自动创建的，用于Open LLM Leaderboard。

数据集结构

• 组成: 由63个配置组成，每个配置对应一个评估任务。
• 创建过程: 数据集由2次运行创建，每次运行作为特定分割，分割名称使用运行的时间戳命名。
• 特殊配置: 额外配置“results”存储所有运行的聚合结果，用于计算和显示聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_dozzke__hermorca", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-03-22T01:24:13.161321的运行结果。
• 结果内容: 包含多个任务的评估结果，如准确率（acc）、标准误差（acc_stderr）等。

数据集配置详情

配置列表

1. config_name: harness_arc_challenge_25

   • data_files:
     • split: 2024_03_22T01_12_04.618868
       • path: /details_harness|arc:challenge|25_2024-03-22T01-12-04.618868.parquet
     • split: 2024_03_22T01_24_13.161321
       • path: /details_harness|arc:challenge|25_2024-03-22T01-24-13.161321.parquet
     • split: latest
       • path: /details_harness|arc:challenge|25_2024-03-22T01-24-13.161321.parquet

2. config_name: harness_gsm8k_5

   • data_files:
     • split: 2024_03_22T01_12_04.618868
       • path: /details_harness|gsm8k|5_2024-03-22T01-12-04.618868.parquet
     • split: 2024_03_22T01_24_13.161321
       • path: /details_harness|gsm8k|5_2024-03-22T01-24-13.161321.parquet
     • split: latest
       • path: /details_harness|gsm8k|5_2024-03-22T01-24-13.161321.parquet

3. config_name: harness_hellaswag_10

   • data_files:
     • split: 2024_03_22T01_12_04.618868
       • path: /details_harness|hellaswag|10_2024-03-22T01-12-04.618868.parquet
     • split: 2024_03_22T01_24_13.161321
       • path: /details_harness|hellaswag|10_2024-03-22T01-24-13.161321.parquet
     • split: latest
       • path: /details_harness|hellaswag|10_2024-03-22T01-24-13.161321.parquet

4. config_name: harness_hendrycksTest_5

   • data_files: 包含多个任务的数据文件，每个任务对应一个或多个时间戳的分割。

以上是对数据集的基本概述和详细配置信息。