open-llm-leaderboard/details_abideen__Mistral-v0.2-orpo

该数据集是在评估模型abideen/Mistral-v0.2-orpo时自动创建的，评估过程在Open LLM Leaderboard上进行。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of abideen/Mistral-v0.2-orpo

数据集描述

• dataset_summary: 该数据集是在评估模型abideen/Mistral-v0.2-orpo的过程中自动创建的，该模型在Open LLM Leaderboard上进行评估。

数据集组成

• 配置数量: 63个配置，每个配置对应一个评估任务。
• 数据来源: 数据集由1次运行创建，每次运行对应一个特定的分割，分割名称使用运行的时间戳命名。
• 特殊配置: 存在一个名为"results"的额外配置，用于存储所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_abideen__Mistral-v0.2-orpo", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-03-24T19:21:44.521774的运行结果，详细结果见此处。

数据集详细配置

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，每个文件对应不同的分割（如时间戳分割和"latest"分割），路径格式为**/details_{配置名称}_{时间戳}.parquet。

数据集结果示例

以下是部分任务的评估结果示例：

• harness|arc:challenge|25:

  • acc: 0.23293515358361774
  • acc_stderr: 0.012352507042617391

• harness|hellaswag|10:

  • acc: 0.25582553276239794
  • acc_stderr: 0.004354325017137537

• harness|hendrycksTest-abstract_algebra|5:

  • acc: 0.22
  • acc_stderr: 0.04163331998932268

这些结果用于评估模型在不同任务上的性能。