open-llm-leaderboard-old/details_DatPySci__pythia-1b-dpo-full

该数据集是在模型 DatPySci/pythia-1b-dpo-full 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 63 个配置组成，每个配置对应一个被评估的任务。它包含一次运行的结果，每次运行在每个配置中表示为特定的分割。train 分割始终指向最新的结果。一个名为 results 的额外配置存储了所有运行的聚合结果，这些结果用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了一个示例，展示了如何使用 `datasets` 库中的 `load_dataset` 函数加载数据集。

原始信息汇总

数据集概述

数据集摘要

该数据集是在评估模型DatPySci/pythia-1b-dpo-full在Open LLM Leaderboard上的自动创建的。数据集包含63个配置，每个配置对应一个评估任务。数据集从1次运行中创建，每个运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。"train"分割始终指向最新的结果。

数据集结构

数据集包含63个配置，每个配置对应一个评估任务。每个配置包含以下分割：

• 2024_02_16T19_40_16.291334：特定运行的详细结果。
• latest：最新的结果。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_DatPySci__pythia-1b-dpo-full", "harness_winogrande_5", split="train")

最新结果

最新结果来自2024-02-16T19:40:16.291334运行，包含多个任务的评估结果，例如：

• harness|arc:challenge|25：准确率（acc）为0.2781569965870307，标准化准确率（acc_norm）为0.29436860068259385。
• harness|hellaswag|10：准确率（acc）为0.38657637920732923，标准化准确率（acc_norm）为0.4903405696076479。
• harness|hendrycksTest-abstract_algebra|5：准确率（acc）为0.26，标准化准确率（acc_norm）为0.26。

配置详情

数据集包含多个配置，每个配置对应一个评估任务，例如：

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含特定运行的详细结果和最新的结果。