open-llm-leaderboard/details_0-hero__Matter-0.1-Slim-7B-C-DPO

该数据集是在评估模型0-hero/Matter-0.1-Slim-7B-C-DPO时自动创建的，评估过程在Open LLM Leaderboard上进行。数据集由63个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置中找到，运行的时间戳作为分割名称。train分割始终指向最新的结果。此外，results配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称: Evaluation run of 0-hero/Matter-0.1-Slim-7B-C-DPO

创建目的: 自动创建于模型0-hero/Matter-0.1-Slim-7B-C-DPO在Open LLM Leaderboard的评估运行期间。

数据集组成: 包含63个配置，每个配置对应一个评估任务。

数据集来源: 数据集由1次运行创建，每次运行对应一个特定的分割，分割名称使用运行的时间戳命名。

特殊配置:

• "train" 分割始终指向最新结果。
• "results" 配置存储所有运行的聚合结果，用于计算和显示聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_0-hero__Matter-0.1-Slim-7B-C-DPO", "harness_winogrande_5", split="train")

最新结果

• 整体性能:

  • 准确率 (acc): 0.6074272652198317
  • 准确率标准误差 (acc_stderr): 0.03308207800114827
  • 归一化准确率 (acc_norm): 0.610588957808396
  • 归一化准确率标准误差 (acc_norm_stderr): 0.033751283071277643
  • 多选1得分 (mc1): 0.31701346389228885
  • 多选1标准误差 (mc1_stderr): 0.016289203374403392
  • 多选2得分 (mc2): 0.4652709265192007
  • 多选2标准误差 (mc2_stderr): 0.0146982136843169

• 任务特定性能:

  • harness|arc:challenge|25:
    • 准确率: 0.5930034129692833
    • 准确率标准误差: 0.01435639941800912
    • 归一化准确率: 0.6348122866894198
    • 归一化准确率标准误差: 0.014070265519268802
  • 其他任务性能数据详见README文件内容。

数据集配置详情

• 配置名称: harness_arc_challenge_25

  • 数据文件路径:
    • 时间戳分割: /details_harness|arc:challenge|25_2024-03-21T14-29-15.832992.parquet
    • 最新分割: /details_harness|arc:challenge|25_2024-03-21T14-29-15.832992.parquet

• 配置名称: harness_gsm8k_5

  • 数据文件路径:
    • 时间戳分割: /details_harness|gsm8k|5_2024-03-21T14-29-15.832992.parquet
    • 最新分割: /details_harness|gsm8k|5_2024-03-21T14-29-15.832992.parquet

• 配置名称: harness_hellaswag_10

  • 数据文件路径:
    • 时间戳分割: /details_harness|hellaswag|10_2024-03-21T14-29-15.832992.parquet
    • 最新分割: /details_harness|hellaswag|10_2024-03-21T14-29-15.832992.parquet

• 配置名称: harness_hendrycksTest_5

  • 数据文件路径:
    • 时间戳分割: 包含多个任务的详细路径，如**/details_harness|hendrycksTest-abstract_algebra|5_2024-03-21T14-29-15.832992.parquet**等。
    • 最新分割: 同上。

以上信息总结了数据集的基本结构、加载方法、性能指标及配置详情，便于用户理解和使用数据集。