open-llm-leaderboard/details_Sao10K__Shiki-v2-m7

该数据集是在Open LLM Leaderboard上对模型Sao10K/Shiki-v2-m7进行评估运行过程中自动创建的。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为一个特定的分割存储，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of Sao10K/Shiki-v2-m7

数据集描述

• dataset_summary: 该数据集是在评估模型Sao10K/Shiki-v2-m7运行期间自动创建的，用于Open LLM Leaderboard。

数据集组成

• 配置数量: 63个配置
• 数据来源: 来自1次运行
• 数据分割: 每个配置中包含特定的分割，以运行的时间戳命名。"train"分割始终指向最新结果。
• 额外配置: 包含一个名为"results"的配置，存储所有运行结果的聚合数据，用于计算和显示聚合指标。

加载数据示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_Sao10K__Shiki-v2-m7", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-03-13T17:49:43.794987的运行
• 结果内容: 包含多个任务的评估结果，每个任务包括准确率(acc)、标准误差(acc_stderr)、归一化准确率(acc_norm)和归一化标准误差(acc_norm_stderr)等指标。

数据集配置详情

• 配置名称: 包括多个任务特定的配置，如"harness|arc:challenge|25"、"harness|hellaswag|10"等。
• 数据文件: 每个配置包含多个分割的数据文件，路径格式为"**/details___*.parquet"。

数据集使用

• 目的: 用于评估模型在不同任务上的性能。
• 方法: 通过加载特定配置和分割的数据进行分析。