open-llm-leaderboard/details_maldv__SHRDFU-7b-beta

该数据集是在Open LLM Leaderboard上对模型maldv/SHRDFU-7b-beta进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个被评估的任务。数据集是从一次或多次运行中生成的，每次运行都作为每个配置中的一个特定切分存储。train切分始终指向最新的结果。一个名为results的额外配置存储了所有运行的聚合结果，这些结果用于计算和展示Open LLM Leaderboard上的聚合指标。README还提供了如何使用`datasets`库中的`load_dataset`函数加载数据集的示例。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of maldv/SHRDFU-7b-beta

数据集创建背景

• dataset_summary: 该数据集是在评估模型maldv/SHRDFU-7b-beta在Open LLM Leaderboard上的运行过程中自动创建的。

数据集结构

• 组成: 包含63个配置，每个配置对应一个评估任务。
• 创建方式: 数据集由1次运行创建，每次运行对应一个特定的分割，分割名称使用运行的时间戳。
• 特殊配置: 有一个额外的配置“results”，存储所有运行的聚合结果，用于计算和显示聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_maldv__SHRDFU-7b-beta", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-04-02T15:00:56.609615的运行。
• 结果内容: 包括多个任务的准确率(acc)和标准误差(acc_stderr)等指标。

数据集配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，每个文件对应一个特定的分割（如时间戳或“latest”）。

数据集使用

• 目的: 用于评估模型在不同任务上的性能。
• 方法: 通过加载特定配置的数据集分割来获取评估结果。

以上信息提供了关于数据集的基本概述、结构、加载方法以及配置详情，有助于用户理解和使用该数据集进行模型评估。