open-llm-leaderboard/details_vicgalle__ConfigurableSOLAR-10.7B

该数据集是在Open LLM Leaderboard上对vicgalle/ConfigurableSOLAR-10.7B模型进行评估运行期间自动创建的。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of vicgalle/ConfigurableSOLAR-10.7B

数据集来源

• dataset_summary: 该数据集是在评估模型vicgalle/ConfigurableSOLAR-10.7B的过程中自动创建的，评估过程在Open LLM Leaderboard上进行。

数据集组成

• 数据结构: 包含63个配置，每个配置对应一个评估任务。
• 数据分割: 每个配置中包含一个特定的分割，该分割以运行的时间戳命名。"train"分割始终指向最新的结果。
• 额外配置: “results”配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_vicgalle__ConfigurableSOLAR-10.7B", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-03-11T05:22:07.852754的运行结果，包含多个任务的评估数据。
• 结果内容: 包括但不限于准确率(acc)、标准误差(acc_stderr)等指标，具体数据详见README文件中的JSON数据。

数据集配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，根据不同的任务和时间戳进行分割。例如，harness_hendrycksTest_5 配置包含多个子任务的数据文件，如抽象代数、解剖学等。

数据文件路径示例

• harness_arc_challenge_25:
  • split: 2024_03_11T05_22_07.852754
    • path: /details_harness|arc:challenge|25_2024-03-11T05-22-07.852754.parquet
  • split: latest
    • path: /details_harness|arc:challenge|25_2024-03-11T05-22-07.852754.parquet

此数据集为研究人员和开发者提供了详细的模型评估数据，支持深入分析和改进模型性能。