open-llm-leaderboard/details__fsx_shared-falcon-180B_platypus_15_converted_safetensors

该数据集是在模型 _fsx_shared-falcon-180B_platypus_15_converted_safetensors 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 61 个配置组成，每个配置对应一个被评估的任务。数据集包含一次运行的结果，每次运行在每个配置中表示为特定的分割，train 分割始终指向最新的结果。一个名为 results 的额外配置存储了所有运行的聚合结果，这些结果用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了如何使用 `datasets` 库中的 `load_dataset` 函数加载数据集的示例，并包含了特定运行的最新结果。

原始信息汇总

数据集概述

数据集名称

• 名称: Evaluation run of _fsx_shared-falcon-180B_platypus_15_converted_safetensors

数据集描述

• 创建目的: 该数据集是在对模型 _fsx_shared-falcon-180B_platypus_15_converted_safetensors 进行评估运行时自动创建的。
• 评估平台: 数据集用于 Open LLM Leaderboard。

数据集结构

• 配置数量: 该数据集包含 61 个配置，每个配置对应一个评估任务。
• 数据来源: 数据集从 1 次运行中创建，每个运行可以在每个配置中作为一个特定的分片找到，分片名称使用运行的时间戳。
• 最新结果: "train" 分片始终指向最新的结果。
• 聚合结果: 一个额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details__fsx_shared-falcon-180B_platypus_15_converted_safetensors", "harness_truthfulqa_mc_0", split="train")

最新结果

• 最新结果时间戳: 2023-09-13T03:07:15.932697
• 详细结果: 包含多个任务的评估结果，每个任务有多个指标（如 acc, acc_stderr, acc_norm, acc_norm_stderr, mc1, mc1_stderr, mc2, mc2_stderr 等）。

配置详情

• 配置名称:
  • harness_arc_challenge_25
  • harness_hellaswag_10
  • harness_hendrycksTest_5
• 数据文件路径:
  • 每个配置包含多个数据文件，路径格式为 **/details_harness|任务名称|参数_2023-09-13T03-07-15.932697.parquet
  • 例如：
    • **/details_harness|arc:challenge|25_2023-09-13T03-07-15.932697.parquet
    • **/details_harness|hellaswag|10_2023-09-13T03-07-15.932697.parquet
    • **/details_harness|hendrycksTest-abstract_algebra|5_2023-09-13T03-07-15.932697.parquet

联系信息

• 联系人: [e-mail]