open-llm-leaderboard/details_LLM360__K2

数据集是在模型LLM360/K2的评估运行期间自动创建的，用于在Open LLM Leaderboard上进行评估。数据集由63个配置组成，每个配置对应一个评估任务。数据集是从1次运行中创建的，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。"train"分割始终指向最新的结果。此外，"results"配置存储了所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of LLM360/K2

数据集来源

• dataset_summary: 该数据集是在评估模型LLM360/K2在Open LLM Leaderboard上的运行过程中自动创建的。

数据集构成

• 配置数量: 63个
• 每个配置对应一个评估任务
• 数据集创建自: 1次运行
• 数据集分割: 每个运行作为一个特定的分割，分割名称使用运行的时间戳命名。"train"分割始终指向最新结果。

额外配置

• 配置名称: "results"
• 功能: 存储所有运行的聚合结果，用于计算和显示聚合指标在Open LLM Leaderboard上。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_LLM360__K2_private", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-05-29T14:14:08.248340的运行
• 结果内容: 包含多个任务的评估结果，每个任务有其对应的准确率（acc）和标准误差（acc_stderr）等指标。

数据集配置详情

• 配置名称: harness_arc_challenge_25, harness_gsm8k_5, harness_hellaswag_10, harness_hendrycksTest_5等
• 数据文件: 每个配置包含多个数据文件，根据不同的分割（如2024_05_29T14_14_08.248340和latest）存储在不同的路径下。

数据集使用

• 目的: 用于评估模型在不同任务上的性能
• 方法: 通过加载数据集并分析各任务的评估结果来实现。