open-llm-leaderboard/details_ToastyPigeon__smolphin-test-bottomheavy

该数据集是在Open LLM Leaderboard上对模型ToastyPigeon/smolphin-test-bottomheavy进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集是从1次运行中创建的，每次运行在每个配置中表示为特定的分割。数据集还包括一个名为“results”的额外配置，用于存储运行的所有聚合结果。README还提供了如何使用Python中的datasets库加载数据集的说明，并包含了特定运行的最新结果。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of ToastyPigeon/smolphin-test-bottomheavy

数据集描述

• dataset_summary: 该数据集是在评估模型ToastyPigeon/smolphin-test-bottomheavy的过程中自动创建的，评估过程在Open LLM Leaderboard上进行。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行创建，每次运行都有特定的分割，分割名称使用运行的时间戳命名。"train"分割始终指向最新的结果。此外，还有一个名为"results"的配置，存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

数据集结构

• 配置数量: 63
• 数据来源: 1次运行
• 分割方式: 按时间戳命名
• 特殊分割: "train"（最新结果）和"results"（聚合结果）

加载数据示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_ToastyPigeon__smolphin-test-bottomheavy", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-03-29T21:21:21.801728的运行
• 结果内容: 包含多个任务的评估结果，如准确率(acc)、标准误差(acc_stderr)等。

数据集配置详情

• 配置列表:
  • harness_arc_challenge_25
  • harness_gsm8k_5
  • harness_hellaswag_10
  • harness_hendrycksTest_5（包含多个子任务配置）
• 数据文件: 每个配置下包含按时间戳和"latest"分割的数据文件。

数据集使用

• 目的: 用于评估模型性能，特别是在Open LLM Leaderboard上的表现。
• 方法: 通过加载数据集并指定相应的配置和分割来获取特定任务的评估结果。