open-llm-leaderboard-old/details_ContextualAI__Contextual_KTO_Mistral_PairRM

该数据集是在模型ContextualAI/Contextual_KTO_Mistral_PairRM的评估运行期间自动创建的，用于在Open LLM Leaderboard上进行评估。数据集由63个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置中找到，运行的时间戳作为分割名称。train分割始终指向最新结果。此外，results配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集简介

该数据集是在评估模型 ContextualAI/Contextual_KTO_Mistral_PairRM 在 Open LLM Leaderboard 上的运行过程中自动创建的。

数据集结构

• 配置数量：63个配置，每个配置对应一个评估任务。
• 创建来源：从1次运行中创建。每个运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。
• 训练分割："train" 分割总是指向最新的结果。
• 结果配置：一个额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_ContextualAI__Contextual_KTO_Mistral_PairRM", "harness_winogrande_5", split="train")

最新结果

以下是 2024-03-07T14:17:07.643549 运行的最新结果：

python { "all": { "acc": 0.6022732654514354, "acc_stderr": 0.03325322256191159, "acc_norm": 0.6078337877090195, "acc_norm_stderr": 0.03392992795919382, "mc1": 0.5495716034271726, "mc1_stderr": 0.01741726437196764, "mc2": 0.7167420880007231, "mc2_stderr": 0.014911134722290867 }, "harness|arc:challenge|25": { "acc": 0.6040955631399317, "acc_stderr": 0.014291228393536588, "acc_norm": 0.6476109215017065, "acc_norm_stderr": 0.013960142600598673 }, "harness|hellaswag|10": { "acc": 0.681736705835491, "acc_stderr": 0.004648503177353963, "acc_norm": 0.8552081258713403, "acc_norm_stderr": 0.0035117170854519846 }, ... }

配置详情

• config_name: harness_arc_challenge_25

  • 分割: 2024_03_07T14_17_07.643549
    • 路径: **/details_harness|arc:challenge|25_2024-03-07T14-17-07.643549.parquet
  • 分割: latest
    • 路径: **/details_harness|arc:challenge|25_2024-03-07T14-17-07.643549.parquet

• config_name: harness_gsm8k_5

  • 分割: 2024_03_07T14_17_07.643549
    • 路径: **/details_harness|gsm8k|5_2024-03-07T14-17-07.643549.parquet
  • 分割: latest
    • 路径: **/details_harness|gsm8k|5_2024-03-07T14-17-07.643549.parquet

• config_name: harness_hellaswag_10

  • 分割: 2024_03_07T14_17_07.643549
    • 路径: **/details_harness|hellaswag|10_2024-03-07T14-17-07.643549.parquet
  • 分割: latest
    • 路径: **/details_harness|hellaswag|10_2024-03-07T14-17-07.643549.parquet

• config_name: harness_hendrycksTest_5

  • 分割: 2024_03_07T14_17_07.643549
    • 路径:
      • **/details_harness|hendrycksTest-abstract_algebra|5_2024-03-07T14-17-07.643549.parquet
      • **/details_harness|hendrycksTest-anatomy|5_2024-03-07T14-17-07.643549.parquet
      • ...
  • 分割: latest
    • 路径:
      • **/details_harness|hendrycksTest-abstract_algebra|5_2024-03-07T14-17-07.643549.parquet
      • **/details_harness|hendrycksTest-anatomy|5_2024-03-07T14-17-07.643549.parquet
      • ...