open-llm-leaderboard/details_Replete-AI__Phi-Elothir

该数据集是在Open LLM Leaderboard上对模型Replete-AI/Phi-Elothir进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集是从1次运行中创建的，每次运行都作为每个配置中的一个特定拆分存储，拆分名称使用运行的时间戳。train拆分始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了一个示例，展示了如何使用`datasets`库中的`load_dataset`函数加载运行中的详细信息。

原始信息汇总

数据集概述

数据集名称

• Evaluation run of Replete-AI/Phi-Elothir

数据集描述

• 该数据集是在评估模型Replete-AI/Phi-Elothir运行期间自动创建的，用于Open LLM Leaderboard。

数据集组成

• 数据集包含63个配置，每个配置对应一个评估任务。
• 数据集由1次运行创建，每次运行以特定的时间戳命名。
• 每个配置中包含一个名为"train"的分割，指向最新的结果。
• 额外配置"results"存储了所有运行的聚合结果，用于计算和显示聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_Replete-AI__Phi-Elothir", "harness_winogrande_5", split="train")

最新结果

• 最新结果来自2024-03-13T02:07:54.390016的运行，详细结果可在数据集中查看。

配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，分别对应不同的分割（如2024_03_13T02_07_54.390016和latest），路径格式为**/details_*.parquet。

结果示例

以下为部分配置的结果示例：

• harness|arc:challenge|25:

  • acc: 0.5750853242320819
  • acc_stderr: 0.014445698968520765

• harness|hellaswag|10:

  • acc: 0.5843457478589922
  • acc_stderr: 0.004918272352137546

• harness|hendrycksTest-abstract_algebra|5:

  • acc: 0.31
  • acc_stderr: 0.04648231987117316

这些结果展示了模型在不同任务上的性能表现。