open-llm-leaderboard/details_giraffe176__Starling_Monarch_Westlake_Garten-7B-v0.1

该数据集是在Open LLM Leaderboard上对模型giraffe176/Starling_Monarch_Westlake_Garten-7B-v0.1进行评估时自动创建的。数据集包含63个配置，每个配置对应一个评估任务。数据集从1次运行中生成，每次运行可以在每个配置中找到特定的分割，分割以运行的时间戳命名。train分割始终指向最新结果。此外，results配置存储了所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称: Evaluation run of giraffe176/Starling_Monarch_Westlake_Garten-7B-v0.1

数据集描述: 该数据集是在评估模型giraffe176/Starling_Monarch_Westlake_Garten-7B-v0.1的过程中自动创建的，该模型在Open LLM Leaderboard上进行评估。

数据集组成:

• 配置数量: 63个
• 每个配置: 对应一个评估任务
• 数据来源: 从1次运行中创建
• 数据分割: 每个配置中的数据根据运行的时间戳进行分割，"train"分割指向最新结果
• 额外配置: "results"，存储所有运行的聚合结果，用于计算和显示聚合指标

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_giraffe176__Starling_Monarch_Westlake_Garten-7B-v0.1", "harness_winogrande_5", split="train")

最新结果

数据集包含最新的评估结果，具体包括各个任务的准确率（acc）、标准误差（acc_stderr）、归一化准确率（acc_norm）和归一化标准误差（acc_norm_stderr）等指标。例如：

• harness|arc:challenge|25:

  • acc: 0.6936860068259386
  • acc_stderr: 0.013470584417276514
  • acc_norm: 0.7175767918088737
  • acc_norm_stderr: 0.013155456884097224

• harness|hellaswag|10:

  • acc: 0.7045409281019717
  • acc_stderr: 0.004553164013379556
  • acc_norm: 0.8814977096195977
  • acc_norm_stderr: 0.0032254141192897133

• harness|hendrycksTest-abstract_algebra|5:

  • acc: 0.33
  • acc_stderr: 0.047258156262526045
  • acc_norm: 0.33
  • acc_norm_stderr: 0.047258156262526045

...（其他任务结果类似）

数据集配置详情

• config_name: harness_arc_challenge_25

  • data_files:
    • split: 2024_03_15T22_54_03.585658
      • path: **/details_harness|arc:challenge|25_2024-03-15T22-54-03.585658.parquet
    • split: latest
      • path: **/details_harness|arc:challenge|25_2024-03-15T22-54-03.585658.parquet

• config_name: harness_gsm8k_5

  • data_files:
    • split: 2024_03_15T22_54_03.585658
      • path: **/details_harness|gsm8k|5_2024-03-15T22-54-03.585658.parquet
    • split: latest
      • path: **/details_harness|gsm8k|5_2024-03-15T22-54-03.585658.parquet

• config_name: harness_hellaswag_10

  • data_files:
    • split: 2024_03_15T22_54_03.585658
      • path: **/details_harness|hellaswag|10_2024-03-15T22-54-03.585658.parquet
    • split: latest
      • path: **/details_harness|hellaswag|10_2024-03-15T22-54-03.585658.parquet

• config_name: harness_hendrycksTest_5

  • data_files:
    • split: 2024_03_15T22_54_03.585658
      • path: 多个任务的详细路径...
    • split: latest
      • path: 多个任务的详细路径...

此数据集为模型评估提供了详细的数据支持，有助于进一步分析和改进模型性能。