open-llm-leaderboard/details_saucam__mistral-orpo-beta-NeuralBeagle14-7B-dare-ties

该数据集是在模型saucam/mistral-orpo-beta-NeuralBeagle14-7B-dare-ties在Open LLM Leaderboard上的评估运行期间自动创建的。它由63个配置组成，每个配置对应一个评估任务。数据集是从1次运行中生成的，每次运行在每个配置中表示为特定的分割。train分割始终指向最新的结果。一个额外的配置results存储了运行的所有聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of saucam/mistral-orpo-beta-NeuralBeagle14-7B-dare-ties

数据集描述

• dataset_summary: 该数据集是在评估模型saucam/mistral-orpo-beta-NeuralBeagle14-7B-dare-ties在Open LLM Leaderboard上的运行过程中自动创建的。

数据集组成

• 配置数量: 63个配置，每个配置对应一个评估任务。
• 数据集创建: 数据集由1次运行创建，每次运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳命名。
• 额外配置: “results”配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_saucam__mistral-orpo-beta-NeuralBeagle14-7B-dare-ties", "harness_winogrande_5", split="train")

最新结果

• 最新结果: 最新结果来自run 2024-03-21T11:57:13.922311。

数据集详细配置

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，每个文件对应不同的分割（如时间戳分割和最新分割）。

数据集评估结果

评估指标

• acc: 准确率
• acc_stderr: 准确率的标准误差
• acc_norm: 归一化准确率
• acc_norm_stderr: 归一化准确率的标准误差
• mc1: 多选题1得分
• mc1_stderr: 多选题1得分的标准误差
• mc2: 多选题2得分
• mc2_stderr: 多选题2得分的标准误差

结果示例

• harness|arc:challenge|25:
  • acc: 0.6262798634812287
  • acc_stderr: 0.014137708601759088
• harness|hellaswag|10:
  • acc: 0.6683927504481179
  • acc_stderr: 0.004698285350019214
• harness|hendrycksTest-abstract_algebra|5:
  • acc: 0.32
  • acc_stderr: 0.04688261722621503

以上结果展示了数据集的基本信息、组成、加载方式以及部分评估结果。