open-llm-leaderboard-old/details_azarafrooz__mistral-7b-v2-selfplay-v1

该数据集是在Open LLM Leaderboard上对模型azarafrooz/mistral-7b-v2-selfplay-v1进行评估时自动生成的。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果存储为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置存储了所有运行的聚合结果，用于在Open LLM Leaderboard上计算和显示聚合指标。

原始信息汇总

数据集概述

数据集简介

该数据集是在评估模型 azarafrooz/mistral-7b-v2-selfplay-v1 的过程中自动创建的，用于 Open LLM Leaderboard 的评估。

数据集结构

• 配置数量：63个配置，每个配置对应一个评估任务。
• 数据来源：数据集来自1次运行，每个运行结果作为一个特定的分割（split）存储，分割名称使用运行的时间戳。
• 最新结果："train" 分割始终指向最新的结果。
• 汇总结果：额外配置 "results" 存储所有运行的汇总结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_azarafrooz__mistral-7b-v2-selfplay-v1", "harness_winogrande_5", split="train")

最新结果

以下是2024年3月28日00:03:01.819097运行的最新结果： python { "all": { "acc": 0.5145330213105399, "acc_stderr": 0.03380726925804259, "acc_norm": 0.5228672814740426, "acc_norm_stderr": 0.034750782508381844, "mc1": 0.2484700122399021, "mc1_stderr": 0.01512742709652069, "mc2": NaN, "mc2_stderr": NaN }, "harness|arc:challenge|25": { "acc": 0.23464163822525597, "acc_stderr": 0.012383873560768668, "acc_norm": 0.3191126279863481, "acc_norm_stderr": 0.013621696119173297 }, "harness|hellaswag|10": { "acc": 0.2740489942242581, "acc_stderr": 0.004451222241494049, "acc_norm": 0.3089026090420235, "acc_norm_stderr": 0.004610966122378303 }, # 其他任务的结果... }

配置详情

• harness_arc_challenge_25

  • 分割：2024_03_28T00_03_01.819097, latest
  • 路径：**/details_harness|arc:challenge|25_2024-03-28T00-03-01.819097.parquet

• harness_gsm8k_5

  • 分割：2024_03_28T00_03_01.819097, latest
  • 路径：**/details_harness|gsm8k|5_2024-03-28T00-03-01.819097.parquet

• harness_hellaswag_10

  • 分割：2024_03_28T00_03_01.819097, latest
  • 路径：**/details_harness|hellaswag|10_2024-03-28T00-03-01.819097.parquet

• harness_hendrycksTest_5

  • 分割：2024_03_28T00_03_01.819097, latest
  • 路径：多个路径，包括不同任务的详细数据文件

以上是数据集的详细概述，包括数据集的简介、结构、加载示例、最新结果以及配置详情。