open-llm-leaderboard-old/details_naivecat__cherry_5_7B

该数据集是在Open LLM Leaderboard上对模型naivecat/cherry_5_7B进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集包含1次运行的结果，每次运行在每个配置中表示为特定的分割，train分割始终指向最新结果。此外，results配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。文件还提供了如何使用`datasets`库中的`load_dataset`函数加载数据集的示例。

原始信息汇总

数据集概述

数据集名称

• 名称: Evaluation run of naivecat/cherry_5_7B

数据集来源

• 创建背景: 该数据集是在评估模型 naivecat/cherry_5_7B 在 Open LLM Leaderboard 上的自动创建的。

数据集结构

• 配置数量: 63个配置，每个配置对应一个评估任务。
• 数据来源: 数据集从1次运行中创建，每个运行在每个配置中作为一个特定的分片存在，分片名称使用运行的时间戳。
• 最新结果: "train" 分片总是指向最新的结果。
• 汇总结果: 一个额外的配置 "results" 存储所有运行的汇总结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_naivecat__cherry_5_7B", "harness_winogrande_5", split="train")

最新结果

• 最新结果时间戳: 2024-04-19T03:51:19.146100
• 详细结果: 包含多个任务的准确率（acc）、标准化准确率（acc_norm）、误差（stderr）等指标。

配置详情

• 配置名称:
  • harness_arc_challenge_25
  • harness_gsm8k_5
  • harness_hellaswag_10
  • harness_hendrycksTest_5
• 数据文件:
  • 每个配置包含多个分片（如2024_04_19T03_51_19.146100和latest），每个分片对应一个或多个数据文件路径。

以上内容总结了数据集的基本信息、结构、加载方法以及最新结果和配置详情。