open-llm-leaderboard-old/details_macadeliccc__SOLAR-math-2x10.7b

该数据集是在模型macadeliccc/SOLAR-math-2x10.7b在Open LLM Leaderboard上的评估运行期间自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。它包含一次运行的结果，每次运行在每个配置中表示为特定的分割。train分割始终指向最新的结果。一个名为results的额外配置存储了所有运行的聚合结果，这些结果用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了如何使用Python中的datasets库加载数据集的示例，并包含了特定运行的最新结果。

原始信息汇总

数据集概述

数据集创建背景

该数据集是在对模型 macadeliccc/SOLAR-math-2x10.7b 进行评估运行期间自动创建的，评估结果展示在 Open LLM Leaderboard 上。

数据集组成

数据集包含 63 个配置，每个配置对应一个评估任务。数据集从 1 次运行中创建，每次运行的详细结果可以在每个配置的特定分片中找到，分片名称使用运行的时间戳。"train" 分片始终指向最新的结果。

结果汇总

一个额外的配置 "results" 存储了所有运行的汇总结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

以下是加载特定运行详细结果的示例代码： python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_macadeliccc__SOLAR-math-2x10.7b", "harness_winogrande_5", split="train")

最新结果

以下是 2024-01-14T02:37:03.730641 运行的最新结果： python { "all": { "acc": 0.672153123323673, "acc_stderr": 0.03128879331345752, "acc_norm": 0.6725032879829345, "acc_norm_stderr": 0.031933166428242975, "mc1": 0.4810281517747858, "mc1_stderr": 0.01749089640576235, "mc2": 0.642058591491927, "mc2_stderr": 0.015391497190020965 }, "harness|arc:challenge|25": { "acc": 0.6493174061433447, "acc_stderr": 0.013944635930726099, "acc_norm": 0.6843003412969283, "acc_norm_stderr": 0.013582571095815291 }, "harness|hellaswag|10": { "acc": 0.6778530173272257, "acc_stderr": 0.004663439181149046, "acc_norm": 0.8630750846444931, "acc_norm_stderr": 0.0034306550069275825 }, ... }

配置详情

数据集包含多个配置，每个配置对应不同的任务和数据文件路径。以下是部分配置示例：

• config_name: harness_arc_challenge_25

  • 数据文件路径：
    • **/details_harness|arc:challenge|25_2024-01-14T02-37-03.730641.parquet

• config_name: harness_gsm8k_5

  • 数据文件路径：
    • **/details_harness|gsm8k|5_2024-01-14T02-37-03.730641.parquet

• config_name: harness_hellaswag_10

  • 数据文件路径：
    • **/details_harness|hellaswag|10_2024-01-14T02-37-03.730641.parquet

• config_name: harness_hendrycksTest_5

  • 数据文件路径：
    • **/details_harness|hendrycksTest-abstract_algebra|5_2024-01-14T02-37-03.730641.parquet
    • **/details_harness|hendrycksTest-anatomy|5_2024-01-14T02-37-03.730641.parquet
    • ...

以上是数据集的详细概述，包括数据集的创建背景、组成、结果汇总、数据加载示例以及配置详情。