open-llm-leaderboard-old/details_silvercoder45__Mistral-7b-instruct-v0.2-summ-dpo-e1

该数据集是在对silvercoder45/Mistral-7b-instruct-v0.2-summ-dpo-e1模型进行评估运行期间自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集是从一次运行中创建的，每个运行在每个配置中作为一个特定的分割存在，分割名称使用运行的日期时间戳。train分割始终指向最新的结果。此外，results配置存储了运行所有聚合结果，用于在Open LLM Leaderboard上计算和显示聚合指标。

原始信息汇总

数据集概述

数据集摘要

该数据集是在模型silvercoder45/Mistral-7b-instruct-v0.2-summ-dpo-e1在Open LLM Leaderboard上的评估运行期间自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。"train"分割始终指向最新的结果。

数据集结构

数据集包含以下配置：

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含不同任务的数据文件，例如：

• harness_arc_challenge_25 包含 details_harness|arc:challenge|25_2024-01-22T09-52-53.024904.parquet
• harness_gsm8k_5 包含 details_harness|gsm8k|5_2024-01-22T09-52-53.024904.parquet
• harness_hellaswag_10 包含 details_harness|hellaswag|10_2024-01-22T09-52-53.024904.parquet
• harness_hendrycksTest_5 包含多个任务的数据文件，如 details_harness|hendrycksTest-abstract_algebra|5_2024-01-22T09-52-53.024904.parquet 等。

最新结果

以下是最新结果的摘要： python { "all": { "acc": 0.6068306303971267, "acc_stderr": 0.033128919989688366, "acc_norm": 0.611125593463237, "acc_norm_stderr": 0.03379981124271015, "mc1": 0.5605875152998776, "mc1_stderr": 0.017374520482513704, "mc2": 0.7056173366389187, "mc2_stderr": 0.015050090065464976 }, "harness|arc:challenge|25": { "acc": 0.5921501706484642, "acc_stderr": 0.014361097288449701, "acc_norm": 0.6245733788395904, "acc_norm_stderr": 0.014150631435111728 }, "harness|hellaswag|10": { "acc": 0.6751643098984266, "acc_stderr": 0.004673563250946101, "acc_norm": 0.852320254929297, "acc_norm_stderr": 0.0035405716545956313 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.3, "acc_stderr": 0.046056618647183814, "acc_norm": 0.3, "acc_norm_stderr": 0.046056618647183814 }, # 其他任务的结果... }

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_silvercoder45__Mistral-7b-instruct-v0.2-summ-dpo-e1", "harness_winogrande_5", split="train")

这个回答准确地总结了数据集的关键信息，包括数据集的来源、结构、最新结果以及如何加载数据集的示例代码。