open-llm-leaderboard/details_kaist-ai__mistral-orpo-beta

该数据集是在Open LLM Leaderboard上对模型kaist-ai/mistral-orpo-beta进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集是从1次运行中生成的，每次运行在每个配置中表示为特定的拆分，拆分的名称使用运行的时间戳。train拆分始终指向最新的结果。一个名为results的额外配置存储了运行的所有聚合结果，这些结果用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了如何使用Python中的datasets库加载运行细节的示例。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of kaist-ai/mistral-orpo-beta

数据集描述

• dataset_summary: 该数据集是在评估模型kaist-ai/mistral-orpo-beta运行期间自动创建的，该模型在Open LLM Leaderboard上进行评估。

数据集组成

• 配置数量: 63个配置，每个配置对应一个评估任务。
• 创建来源: 数据集由1次运行创建，每次运行作为一个特定的分割，分割名称使用运行的时间戳命名。
• 特殊配置: 额外配置“results”存储所有运行的聚合结果，用于计算和显示聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_kaist-ai__mistral-orpo-beta", "harness_winogrande_5", split="train")

最新结果

• 结果来源: latest results from run 2024-03-14T05:53:29.036256
• 结果内容: 包含多个任务的评估结果，如准确率（acc）、标准误差（acc_stderr）等。

数据集配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，每个文件对应一个特定的分割（如时间戳分割或最新分割）。

数据文件路径示例

• harness_arc_challenge_25:
  • split: 2024_03_14T05_53_29.036256
    • path: /details_harness|arc:challenge|25_2024-03-14T05-53-29.036256.parquet
  • split: latest
    • path: /details_harness|arc:challenge|25_2024-03-14T05-53-29.036256.parquet

此结构适用于所有配置，每个配置的数据文件路径根据其对应的任务和分割进行命名。