open-llm-leaderboard-old/details_matsuo-lab__weblab-10b-instruction-sft

该数据集是在模型 matsuo-lab/weblab-10b-instruction-sft 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 64 个配置组成，每个配置对应一个被评估的任务。它由 2 次运行生成，每次运行在每个配置中表示为特定的分割，分割名称使用运行的时间戳。train 分割始终指向最新的结果。一个名为 results 的额外配置存储了所有运行的聚合结果，这些结果用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了一个如何使用 Python 中的 datasets 库加载运行细节的示例。该数据集是在模型 matsuo-lab/weblab-10b-instruction-sft 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 64 个配置组成，每个配置对应一个被评估的任务。它由 2 次运行生成，每次运行在每个配置中表示为特定的分割，分割名称使用运行的时间戳。train 分割始终指向最新的结果。一个名为 results 的额外配置存储了所有运行的聚合结果，这些结果用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了一个如何使用 Python 中的 datasets 库加载运行细节的示例。

原始信息汇总

数据集概述

数据集摘要

该数据集是在评估模型 matsuo-lab/weblab-10b-instruction-sft 在 Open LLM Leaderboard 上的自动创建的。

数据集组成

• 数据集包含 64 个配置，每个配置对应一个评估任务。
• 数据集从 2 次运行中创建，每次运行可以在每个配置中找到特定的拆分，拆分名称使用运行的时间戳。
• "train" 拆分始终指向最新的结果。
• 一个额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_matsuo-lab__weblab-10b-instruction-sft", "harness_winogrande_5", split="train")

最新结果

以下是 2023-10-26T03:21:34.217143 运行的最新结果： python { "all": { "em": 0.25796979865771813, "em_stderr": 0.004480586588383818, "f1": 0.29560088087248326, "f1_stderr": 0.0044784123554922695, "acc": 0.32953979031494646, "acc_stderr": 0.008582363548097051 }, "harness|drop|3": { "em": 0.25796979865771813, "em_stderr": 0.004480586588383818, "f1": 0.29560088087248326, "f1_stderr": 0.0044784123554922695 }, "harness|gsm8k|5": { "acc": 0.01819560272934041, "acc_stderr": 0.0036816118940738705 }, "harness|winogrande|5": { "acc": 0.6408839779005525, "acc_stderr": 0.013483115202120232 } }

配置详情

• harness_arc_challenge_25

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|arc:challenge|25_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|arc:challenge|25_2023-09-12T12-58-31.709829.parquet

• harness_drop_3

  • 拆分：2023_10_26T03_21_34.217143
  • 路径：**/details_harness|drop|3_2023-10-26T03-21-34.217143.parquet
  • 拆分：latest
  • 路径：**/details_harness|drop|3_2023-10-26T03-21-34.217143.parquet

• harness_gsm8k_5

  • 拆分：2023_10_26T03_21_34.217143
  • 路径：**/details_harness|gsm8k|5_2023-10-26T03-21-34.217143.parquet
  • 拆分：latest
  • 路径：**/details_harness|gsm8k|5_2023-10-26T03-21-34.217143.parquet

• harness_hellaswag_10

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hellaswag|10_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hellaswag|10_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-abstract_algebra|5_2023-09-12T12-58-31.709829.parquet 等 50 个文件
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-abstract_algebra|5_2023-09-12T12-58-31.709829.parquet 等 50 个文件

• harness_hendrycksTest_abstract_algebra_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-abstract_algebra|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-abstract_algebra|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_anatomy_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-anatomy|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-anatomy|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_astronomy_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-astronomy|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-astronomy|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_business_ethics_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-business_ethics|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-business_ethics|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_clinical_knowledge_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-clinical_knowledge|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-clinical_knowledge|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_college_biology_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-college_biology|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-college_biology|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_college_chemistry_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-college_chemistry|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-college_chemistry|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_college_computer_science_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-college_computer_science|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-college_computer_science|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_college_mathematics_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-college_mathematics|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-college_mathematics|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_college_medicine_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-college_medicine|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-college_medicine|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_college_physics_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-college_physics|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-college_physics|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_computer_security_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-computer_security|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-computer_security|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_conceptual_physics_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-conceptual_physics|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-conceptual_physics|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_econometrics_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：**/details_harness|hendrycksTest-econometrics|5_2023-09-12T12-58-31.709829.parquet
  • 拆分：latest
  • 路径：**/details_harness|hendrycksTest-econometrics|5_2023-09-12T12-58-31.709829.parquet

• harness_hendrycksTest_electrical_engineering_5

  • 拆分：2023_09_12T12_58_31.709829
  • 路径：`**/details_harness|hend

搜集汇总

数据集介绍

构建方式

在大型语言模型的评估体系中，Open LLM Leaderboard 作为一项权威的基准测试平台，为模型性能的横向对比提供了标准化框架。该数据集正是基于这一背景，在评估模型 matsuo-lab/weblab-10b-instruction-sft 的过程中自动生成。其构建方式具有鲜明的自动化特征：数据集由64个配置组成，每个配置对应一个评估任务，数据来源于两次独立的运行记录。每次运行的结果以时间戳为标识，作为独立的分裂（split）存储，而名为“train”的分裂始终指向最新一次运行的评估结果。此外，一个名为“results”的额外配置专门用于汇总所有运行的聚合指标，为整体性能分析提供支撑。

特点

该数据集的核心特点在于其结构化的评估记录与动态更新机制。64个配置覆盖了从常识推理（如Winogrande）到数学推理（如GSM8K）再到多领域知识测试（如HendrycksTest系列）的广泛任务，体现了评估维度的全面性。每个配置内，不同时间戳的分裂保留了模型历次评估的细节，使得性能变化轨迹可追溯。最新结果自动指向“train”分裂的设计，确保了数据集的实时性与易用性。同时，聚合结果配置的存在，使得用户能够一键获取模型在各项任务上的宏观表现，如准确率（acc）和F1分数等关键指标。

使用方法

使用该数据集进行模型评估分析时，研究者可通过Hugging Face的datasets库便捷加载。具体操作中，用户需指定目标配置名称（如“harness_winogrande_5”）及所需分裂（如“train”），即可获取对应任务的详细评估数据。例如，调用load_dataset函数并传入数据集标识符、配置名与分裂参数，即可返回包含模型在特定任务上逐样本表现的Parquet格式数据。这一流程简化了从原始评估日志到可分析数据的转换步骤，使得研究者能够聚焦于模型性能的深入解读与对比研究。

背景与挑战

背景概述

在大型语言模型（LLM）蓬勃发展的时代，如何系统性地评估模型在多样化任务上的表现成为核心议题。Open LLM Leaderboard应运而生，作为一个标准化基准平台，旨在通过多维度测试揭示模型的能力边界。该数据集源自对matsuo-lab/weblab-10b-instruction-sft模型的评估运行，由HuggingFace团队于2023年创建，联络人为clémentine。核心研究问题聚焦于如何通过指令微调提升10B参数级别模型的泛化能力，涵盖ARC挑战、HellaSwag、MMLU等数十项推理与知识任务。该评估结果对LLM社区产生了显著影响，为对比不同微调策略提供了可复现的参考基准，推动了开源模型性能透明化进程。

当前挑战

该数据集所解决的领域挑战在于，LLM评估常因任务单一或基准不统一而难以反映真实能力，而Open LLM Leaderboard通过整合多任务测试（如DROP的精确匹配、GSM8K的数学推理、Winogrande的常识判断）构建了综合性评估框架。构建过程中挑战重重：需确保64个配置项的数据格式一致，处理不同时间戳的运行结果（如2023年9月与10月的两次评估），并维护“latest”分割指向最新数据的动态更新机制。此外，MMLU子任务涵盖57个学科，数据文件路径的复杂拼接与跨学科一致性校验也构成了技术难点，最终通过Parquet格式的标准化存储与分层配置得以化解。

常用场景

经典使用场景

在大规模语言模型蓬勃发展的浪潮中，对模型进行标准化、多维度的能力评估成为推动技术进步的关键环节。该数据集作为Open LLM Leaderboard评估体系下的产物，其最经典的使用场景在于为研究者提供一个统一、可复现的基准测试框架。通过结构化地存储模型在ARC、HellaSwag、MMLU、TruthfulQA等多样化任务上的细粒度表现，它使得不同模型间的横向比较变得透明且公正，成为衡量模型推理、常识理解与知识掌握水平的权威标尺。

实际应用

在实际应用中，该数据集扮演着模型质量门控与选型指南的角色。开发团队可利用其详尽的评测结果，在部署前对候选模型进行快速筛选与风险预判，例如判断模型在数学推理（GSM8K）或阅读理解（DROP）等关键场景下的可靠性。同时，它也为企业级应用提供了从模型微调到上线前的评估闭环，确保模型在落地时能够满足特定业务场景对准确性与稳定性的严苛要求。

衍生相关工作

该数据集衍生了一系列具有深远影响的经典工作，其中最瞩目的当属HuggingFace H4团队基于此数据构建的Open LLM Leaderboard排行榜，它已成为社区公认的模型性能风向标。此外，研究者们依托该数据集中的细粒度结果，发展出诸如模型能力归因分析、任务难度加权评估等创新方法论，并催生了如AlpacaEval、MT-Bench等更侧重对话质量的评测体系，共同织就了一张覆盖全面、层次分明的大模型能力评估网络。