open-llm-leaderboard/details_mistralai__Mixtral-8x22B-Instruct-v0.1

该数据集是在模型mistralai/Mixtral-8x22B-Instruct-v0.1在Open LLM Leaderboard上的评估运行期间自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集由1次运行创建，每次运行都作为每个配置中的特定拆分存储，拆分名称使用运行的时间戳。train拆分始终指向最新结果。此外，还有一个名为results的配置，存储了运行的所有聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了如何使用Python中的datasets库加载运行详细信息的示例。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of mistralai/Mixtral-8x22B-Instruct-v0.1

数据集创建

• dataset_summary: 该数据集是在评估模型mistralai/Mixtral-8x22B-Instruct-v0.1的过程中自动创建的，用于Open LLM Leaderboard。

数据集组成

• 配置数量: 63个配置，每个配置对应一个评估任务。
• 数据集创建次数: 1次运行。
• 数据集分割: 每个运行作为一个特定的分割，分割名称使用运行的时间戳命名。"train"分割指向最新结果。
• 额外配置: 一个名为"results"的配置，存储所有聚合的运行结果，用于计算和显示聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_mistralai__Mixtral-8x22B-Instruct-v0.1", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-04-18T04:27:50.095241的运行。
• 结果内容: 包含多个任务的评估结果，如准确率(acc)、标准误差(acc_stderr)等。

数据集配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，每个文件对应一个特定的分割，如"2024_04_18T04_27_50.095241"和"latest"。

数据文件路径示例

• harness_arc_challenge_25:
  • split: 2024_04_18T04_27_50.095241
    • path: /details_harness|arc:challenge|25_2024-04-18T04-27-50.095241.parquet
  • split: latest
    • path: /details_harness|arc:challenge|25_2024-04-18T04-27-50.095241.parquet

数据集使用

• 数据集用于评估模型在不同任务上的性能，通过加载特定配置的数据文件进行分析和比较。