open-llm-leaderboard/details_DrNicefellow__Mistral-3-from-Mixtral-8x7B-v0.1

该数据集是在评估模型DrNicefellow/Mistral-3-from-Mixtral-8x7B-v0.1时自动创建的，包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果存储为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新结果。此外，results配置存储了所有运行的聚合结果，用于计算和显示在Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• 名称: Evaluation run of DrNicefellow/Mistral-3-from-Mixtral-8x7B-v0.1

数据集描述

• 创建目的: 自动创建于模型DrNicefellow/Mistral-3-from-Mixtral-8x7B-v0.1在Open LLM Leaderboard上的评估运行期间。
• 数据组成: 包含63个配置，每个配置对应一个评估任务。
• 数据来源: 数据集由1次运行创建，每次运行在每个配置中作为一个特定的分割存在，分割名使用运行的时间戳命名。
• 特殊配置: 额外配置“results”存储了所有运行的聚合结果，用于计算和显示聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_DrNicefellow__Mistral-3-from-Mixtral-8x7B-v0.1", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-04-15T14:28:15.409639的运行结果。
• 结果内容: 包括多个任务的准确率(acc)、标准误差(acc_stderr)、归一化准确率(acc_norm)和归一化标准误差(acc_norm_stderr)等指标。

数据集配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，每个文件对应不同的任务和时间戳。例如，harness_hendrycksTest_5配置包含多个子任务的数据文件，如abstract_algebra, anatomy, astronomy等。

数据集使用

• 加载数据: 使用load_dataset函数加载特定配置和分割的数据。
• 分析数据: 分析各任务的性能指标，如准确率和标准误差，以评估模型性能。