open-llm-leaderboard/details_arvindanand__ValidateAI-33B-slerp

该数据集是在模型 arvindanand/ValidateAI-33B-slerp 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 63 个配置组成，每个配置对应一个被评估的任务。数据集是从 1 次运行中生成的，每次运行在每个配置中表示为特定的分割，分割名称使用运行的时间戳。train 分割始终指向最新的结果。一个名为 results 的额外配置存储了运行的所有聚合结果，这些结果用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了一个示例，展示了如何使用 Python 中的 datasets 库加载运行中的详细信息。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of arvindanand/ValidateAI-33B-slerp

数据集创建背景

• dataset_summary: 该数据集是在评估模型arvindanand/ValidateAI-33B-slerp的过程中自动创建的，用于Open LLM Leaderboard。

数据集组成

• 数据结构: 包含63个配置，每个配置对应一个评估任务。
• 数据来源: 数据集由1次运行创建，每次运行对应一个特定分割，分割名称使用运行的时间戳命名。
• 额外配置: “results”配置存储所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_arvindanand__ValidateAI-33B-slerp", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-04-10T12:15:46.754568的运行结果。
• 结果内容: 包含多个任务的评估结果，如准确率(acc)、标准误差(acc_stderr)等。

数据集详细配置

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，每个文件对应不同的分割（如时间戳分割和最新分割）。

结果示例

聚合结果

python { "all": { "acc": 0.39295856328198214, "acc_stderr": 0.03406418772246501, "acc_norm": 0.39843889983227476, "acc_norm_stderr": 0.03499234221764259, "mc1": 0.2582619339045288, "mc1_stderr": 0.015321821688476196, "mc2": 0.45660677334622446, "mc2_stderr": 0.01690873305006139 } }

特定任务结果

• harness|arc:challenge|25:
  • "acc": 0.2781569965870307
  • "acc_stderr": 0.013094469919538805
• harness|hellaswag|10:
  • "acc": 0.3147779326827325
  • "acc_stderr": 0.0046347821561286105
• harness|hendrycksTest-abstract_algebra|5:
  • "acc": 0.33
  • "acc_stderr": 0.04725815626252606

以上结果展示了数据集的基本信息、组成、加载方式以及部分评估结果。