open-llm-leaderboard-old/details_RubielLabarta__LogoS-7Bx2-MoE-13B-v0.1

该数据集是在Open LLM Leaderboard上对模型RubielLabarta/LogoS-7Bx2-MoE-13B-v0.1进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个被评估的任务。数据集是从2次运行中创建的，每次运行在每个配置中表示为特定的分割，train分割始终指向最新的结果。此外，名为results的配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了如何使用`datasets`库中的`load_dataset`函数加载运行细节的示例。

原始信息汇总

数据集概述

数据集创建

• 创建背景：该数据集是在评估模型 RubielLabarta/LogoS-7Bx2-MoE-13B-v0.1 在 Open LLM Leaderboard 上的自动创建的。

数据集结构

• 配置数量：数据集包含 63 个配置，每个配置对应一个评估任务。
• 运行次数：数据集从 2 次运行中创建。每个运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳。
• 最新结果："train" 分割总是指向最新的结果。
• 结果汇总：一个额外的配置 "results" 存储所有运行的汇总结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_RubielLabarta__LogoS-7Bx2-MoE-13B-v0.1", "harness_winogrande_5", split="train")

最新结果

• 最新结果来源：这些是最新结果来自 2024-01-21T20:50:04.239190。

具体任务结果

• 任务及结果：
  • harness|arc:challenge|25:
    • acc: 0.7141638225255973
    • acc_stderr: 0.013203196088537372
    • acc_norm: 0.7448805460750854
    • acc_norm_stderr: 0.012739038695202091
  • harness|hellaswag|10:
    • acc: 0.7266480780720972
    • acc_stderr: 0.004447691405592719
    • acc_norm: 0.8906592312288388
    • acc_norm_stderr: 0.0031142850772280287
  • harness|hendrycksTest-abstract_algebra|5:
    • acc: 0.36
    • acc_stderr: 0.04824181513244218
    • acc_norm: 0.36
    • acc_norm_stderr: 0.04824181513244218
  • 其他任务结果：详见完整文档。

配置详情

• 配置名称及数据文件：
  • harness_arc_challenge_25:
    • 分割: 2024_01_21T20_47_16.127941
      • 路径: **/details_harness|arc:challenge|25_2024-01-21T20-47-16.127941.parquet
    • 分割: 2024_01_21T20_50_04.239190
      • 路径: **/details_harness|arc:challenge|25_2024-01-21T20-50-04.239190.parquet
    • 分割: latest
      • 路径: **/details_harness|arc:challenge|25_2024-01-21T20-50-04.239190.parquet
  • 其他配置：详见完整文档。