open-llm-leaderboard/details_playdev7__theseed-v0.3

该数据集是在Open LLM Leaderboard上对模型playdev7/theseed-v0.3进行评估时自动创建的。它由63个配置组成，每个配置对应一个评估任务。数据集是从1次运行中创建的，每次运行作为每个配置中的一个特定分割。train分割始终指向最新结果。一个额外的配置results存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of playdev7/theseed-v0.3

数据集描述

• dataset_summary: 该数据集是在评估模型playdev7/theseed-v0.3的过程中自动创建的，用于Open LLM Leaderboard。

数据集构成

• 组件数量: 63个配置，每个配置对应一个评估任务。
• 创建来源: 数据集由1次运行创建，每次运行作为特定分割存储，分割名称使用运行的时间戳命名。
• 额外配置: 包含一个名为"results"的配置，用于存储所有运行的聚合结果，用于计算和显示聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_playdev7__theseed-v0.3", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-03-22T03:26:35.385729的运行结果。
• 结果内容: 包含多个任务的评估结果，如准确率(acc)、标准误差(acc_stderr)等。

数据集详细配置

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，每个文件对应不同的分割（如时间戳分割和最新分割）。

数据集使用

• 数据集可通过load_dataset函数加载，指定数据集名称、配置和分割。