open-llm-leaderboard-old/details_ndavidson__cisco-iNAM-phi-sft

该数据集是在模型 ndavidson/cisco-iNAM-phi-sft 在 Open LLM Leaderboard 上的评估运行期间自动创建的。它由 63 个配置组成，每个配置对应一个评估任务。数据集是从 1 次运行中生成的，每次运行作为每个配置中的特定拆分，使用运行的时间戳命名。train 拆分始终指向最新结果。一个额外的配置 results 存储了运行的所有聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。可以使用 Hugging Face 的 datasets 库加载该数据集，如提供的 Python 代码片段所示。

原始信息汇总

数据集概述

该数据集是在评估模型 ndavidson/cisco-iNAM-phi-sft 的过程中自动创建的，用于 Open LLM Leaderboard。数据集包含 63 个配置，每个配置对应一个评估任务。

数据集结构

• 配置数量：63 个配置
• 数据来源：从 1 次运行中创建，每个运行对应一个特定的时间戳
• 数据分割：每个配置包含多个分割，其中 "train" 分割指向最新的结果
• 额外配置："results" 配置存储所有运行的聚合结果，用于计算和显示聚合指标

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_ndavidson__cisco-iNAM-phi-sft", "harness_winogrande_5", split="train")

最新结果

以下是 2024-04-15T20:19:33.862865 运行的最新结果：

python { "all": { "acc": 0.5376264752595024, "acc_stderr": 0.03415519094482536, "acc_norm": 0.5381748034641698, "acc_norm_stderr": 0.034857452620664434, "mc1": 0.31334149326805383, "mc1_stderr": 0.016238065069059605, "mc2": 0.4522608847621656, "mc2_stderr": 0.01494378088265992 }, "harness|arc:challenge|25": { "acc": 0.5324232081911263, "acc_stderr": 0.014580637569995418, "acc_norm": 0.5691126279863481, "acc_norm_stderr": 0.014471133392642475 }, "harness|hellaswag|10": { "acc": 0.5520812587134037, "acc_stderr": 0.004962638446395988, "acc_norm": 0.7348137821151165, "acc_norm_stderr": 0.004405301508322377 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.29, "acc_stderr": 0.045604802157206845, "acc_norm": 0.29, "acc_norm_stderr": 0.045604802157206845 }, ... }

配置详情

• harness_arc_challenge_25

  • 分割：2024_04_15T20_19_33.862865, latest
  • 路径：**/details_harness|arc:challenge|25_2024-04-15T20-19-33.862865.parquet

• harness_gsm8k_5

  • 分割：2024_04_15T20_19_33.862865, latest
  • 路径：**/details_harness|gsm8k|5_2024-04-15T20-19-33.862865.parquet

• harness_hellaswag_10

  • 分割：2024_04_15T20_19_33.862865, latest
  • 路径：**/details_harness|hellaswag|10_2024-04-15T20-19-33.862865.parquet

• harness_hendrycksTest_5

  • 分割：2024_04_15T20_19_33.862865, latest
  • 路径：多个路径，例如 **/details_harness|hendrycksTest-abstract_algebra|5_2024-04-15T20-19-33.862865.parquet

以上是数据集的概述和详细信息，包括数据集的结构、加载示例、最新结果以及各个配置的详情。