open-llm-leaderboard/details_zelus82__Asterix-B7

该数据集是在Open LLM Leaderboard上对模型zelus82/Asterix-B7进行评估时自动生成的。数据集包含63个配置，每个配置对应一个被评估的任务。数据集由一次运行生成，每次运行在每个配置中作为一个特定的分割表示，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，results配置存储了所有运行的聚合结果，用于在Open LLM Leaderboard上计算和显示聚合指标。README还提供了如何使用Hugging Face datasets库加载数据集的示例，并包含了特定运行的最新结果。

原始信息汇总

数据集概述

数据集基本信息

• 名称: Evaluation run of zelus82/Asterix-B7
• 创建目的: 自动创建于模型zelus82/Asterix-B7在Open LLM Leaderboard的评估运行期间。
• 组成: 包含63个配置，每个配置对应一个评估任务。
• 创建来源: 数据集由1次运行创建，每次运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳命名。
• 特殊配置: “results”配置存储所有运行的聚合结果，用于计算和显示聚合指标。

数据集结构

• 配置数量: 63
• 数据分割: 每个配置包含基于时间戳的特定分割和“latest”分割。
• 加载示例: python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_zelus82__Asterix-B7", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-03-25T03:00:30.295494的运行。
• 结果内容: 包含多个任务的准确率(acc)和标准误差(acc_stderr)等指标。
• 示例指标:
  • harness|arc:challenge|25: acc=0.2380546075085324, acc_stderr=0.012445770028026208
  • harness|hellaswag|10: acc=0.25791674965146383, acc_stderr=0.004365938407209608
  • harness|hendrycksTest-abstract_algebra|5: acc=0.31, acc_stderr=0.04648231987117316
  • harness|truthfulqa:mc|0: mc1=0.2350061199510404, mc1_stderr=0.014843061507731601
  • harness|winogrande|5: acc=0.5059194948697711, acc_stderr=0.014051500838485807
  • harness|gsm8k|5: acc=0.0, acc_stderr=0.0

数据集使用

• 加载方法: 使用load_dataset函数加载特定配置和分割的数据。
• 数据用途: 用于评估模型在不同任务上的性能，支持在Open LLM Leaderboard上显示聚合指标。