open-llm-leaderboard/details_google__gemma-1.1-7b-it

该数据集是在评估模型google/gemma-1.1-7b-it时自动创建的，包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为一个特定的分割存储在配置中，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，用于计算和显示在Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of google/gemma-1.1-7b-it

数据集描述

• dataset_summary: 该数据集是在评估模型google/gemma-1.1-7b-it的过程中自动创建的，用于Open LLM Leaderboard。

数据集组成

• 配置数量: 63个配置
• 每个配置对应一个评估任务
• 数据来源: 单次运行
• 数据分割: 每个配置中的数据根据运行时间戳进行分割，"train"分割指向最新结果
• 额外配置: "results"用于存储所有运行结果的聚合数据，用于计算和显示聚合指标

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_google__gemma-1.1-7b-it", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-04-15T12:58:48.766553的运行
• 结果内容: 包括多个任务的准确率(acc)、标准误差(acc_stderr)、归一化准确率(acc_norm)和归一化标准误差(acc_norm_stderr)等指标

数据集详细配置

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，根据不同的任务和时间戳进行分割，确保数据的最新性和相关性。