open-llm-leaderboard/details_pansophic__gemma-2b-sft-preview

该数据集是在Open LLM Leaderboard上对模型pansophic/gemma-2b-sft-preview进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集是从1次运行中创建的，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，results配置存储了所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• Evaluation run of pansophic/gemma-2b-sft-preview

数据集描述

• 该数据集是在评估模型pansophic/gemma-2b-sft-preview运行期间自动创建的，该模型在Open LLM Leaderboard上进行评估。
• 数据集由63个配置组成，每个配置对应一个评估任务。
• 数据集来源于1次运行，每次运行作为一个特定的分割存储，分割名称使用运行的时间戳命名。
• 存在一个名为"results"的额外配置，用于存储所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。

数据集结构

• 配置数量：63个
• 数据来源：1次运行
• 分割方式：每个配置对应一个任务，分割名称基于运行的时间戳。
• 额外配置："results"用于存储聚合结果。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_pansophic__gemma-2b-sft-preview", "harness_winogrande_5", split="train")

最新结果

• 最新结果来自run 2024-04-09T23:16:38.946597。
• 结果可能包含其他任务的数据，这些数据可以在"results"和每个评估的"latest"分割中找到。

配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5
  • 包含多个子配置，对应不同的测试领域。

数据文件路径

• 每个配置包含两个分割：2024_04_09T23_16_38.946597和latest，路径格式为**/details_{配置名称}_{时间戳}.parquet。

结论

该数据集提供了详细的评估结果，适用于分析模型在不同任务上的表现，支持进一步的研究和开发。