open-llm-leaderboard/details_vitruv__vitruv_2

该数据集是在模型vitruv/vitruv_2的评估运行期间自动创建的，用于Open LLM Leaderboard的评估任务。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，results配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of vitruv/vitruv_2

数据集描述

• dataset_summary: 该数据集是在评估模型vitruv/vitruv_2运行期间自动创建的，用于Open LLM Leaderboard。

数据集结构

• 组成: 包含63个配置，每个配置对应一个评估任务。
• 创建来源: 数据集由1次运行创建，每次运行作为一个特定的分割，分割名称使用运行的时间戳命名。
• 特殊配置: “results”配置存储所有运行的聚合结果，用于计算和显示聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_vitruv__vitruv_2", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-03-22T00:55:49.752685的运行。
• 结果内容: 包含多个任务的准确率(acc)、标准误差(acc_stderr)等指标。

配置详情

• config_name: harness_arc_challenge_25, harness_gsm8k_5, harness_hellaswag_10, harness_hendrycksTest_5等。
• data_files: 每个配置包含多个数据文件，根据不同的时间戳(如2024-03-22T00-55-49.752685)和“latest”分割进行组织。

该数据集为评估模型性能提供了详细的数据支持，适用于深度分析和模型优化。