遇见数据集

open-llm-leaderboard/details_eachadea__vicuna-13b

收藏
Hugging Face2023-10-15 更新2024-03-04 收录
机器学习评估
模型性能分析
数据链接：
https://hf-mirror.com/datasets/open-llm-leaderboard/details_eachadea__vicuna-13b数据链接链接失效反馈
官方服务：

资源简介：

该数据集是在评估模型eachadea/vicuna-13b运行期间自动创建的，用于Open LLM Leaderboard。数据集包含64个配置，每个配置对应一个评估任务。数据集由2次运行创建，每次运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳命名。此外，还有一个名为results的配置，存储所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

该数据集是在评估模型eachadea/vicuna-13b运行期间自动创建的，用于Open LLM Leaderboard。数据集包含64个配置，每个配置对应一个评估任务。数据集由2次运行创建，每次运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳命名。此外，还有一个名为results的配置，存储所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

提供机构：
open-llm-leaderboard
原始信息汇总

数据集概述

数据集简介

该数据集是在评估模型 eachadea/vicuna-13b 在 Open LLM Leaderboard 上的自动创建的。数据集包含 64 个配置，每个配置对应一个评估任务。

数据集结构

  • 配置数量：64 个配置
  • 运行次数：数据集从 2 次运行中创建。每个运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳。
  • 训练分割："train" 分割始终指向最新的结果。
  • 结果配置：一个额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_eachadea__vicuna-13b", "harness_winogrande_5", split="train")

最新结果

以下是 2023-10-15T06:05:43.185046 运行 的最新结果： python { "all": { "em": 0.0018875838926174498, "em_stderr": 0.00044451099905591266, "f1": 0.06103502516778559, "f1_stderr": 0.0014093219432847165, "acc": 0.3930771978723926, "acc_stderr": 0.01001987826540043 }, "harness|drop|3": { "em": 0.0018875838926174498, "em_stderr": 0.00044451099905591266, "f1": 0.06103502516778559, "f1_stderr": 0.0014093219432847165 }, "harness|gsm8k|5": { "acc": 0.0758150113722517, "acc_stderr": 0.007291205723162591 }, "harness|winogrande|5": { "acc": 0.7103393843725335, "acc_stderr": 0.012748550807638271 } }

配置详情

  • harness_arc_challenge_25

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|arc:challenge|25_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|arc:challenge|25_2023-07-18T14:25:52.300291.parquet

  • harness_drop_3

    • 分割：2023_10_15T06_05_43.185046
    • 路径：**/details_harness|drop|3_2023-10-15T06-05-43.185046.parquet
    • 分割：latest
    • 路径：**/details_harness|drop|3_2023-10-15T06-05-43.185046.parquet

  • harness_gsm8k_5

    • 分割：2023_10_15T06_05_43.185046
    • 路径：**/details_harness|gsm8k|5_2023-10-15T06-05-43.185046.parquet
    • 分割：latest
    • 路径：**/details_harness|gsm8k|5_2023-10-15T06-05-43.185046.parquet

  • harness_hellaswag_10

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hellaswag|10_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hellaswag|10_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：多个路径，如 **/details_harness|hendrycksTest-abstract_algebra|5_2023-07-18T14:25:52.300291.parquet 等
    • 分割：latest
    • 路径：多个路径，如 **/details_harness|hendrycksTest-abstract_algebra|5_2023-07-18T14:25:52.300291.parquet 等

  • harness_hendrycksTest_abstract_algebra_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-abstract_algebra|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-abstract_algebra|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_anatomy_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-anatomy|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-anatomy|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_astronomy_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-astronomy|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-astronomy|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_business_ethics_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-business_ethics|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-business_ethics|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_clinical_knowledge_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-clinical_knowledge|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-clinical_knowledge|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_college_biology_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-college_biology|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-college_biology|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_college_chemistry_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-college_chemistry|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-college_chemistry|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_college_computer_science_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-college_computer_science|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-college_computer_science|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_college_mathematics_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-college_mathematics|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-college_mathematics|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_college_medicine_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-college_medicine|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-college_medicine|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_college_physics_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-college_physics|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-college_physics|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_computer_security_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-computer_security|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-computer_security|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_conceptual_physics_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-conceptual_physics|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-conceptual_physics|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_econometrics_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-econometrics|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
    • 路径：**/details_harness|hendrycksTest-econometrics|5_2023-07-18T14:25:52.300291.parquet

  • harness_hendrycksTest_electrical_engineering_5

    • 分割：2023_07_18T14_25_52.300291
    • 路径：**/details_harness|hendrycksTest-electrical_engineering|5_2023-07-18T14:25:52.300291.parquet
    • 分割：latest
搜集汇总
数据集介绍
open-llm-leaderboard/details_eachadea__vicuna-13b 数据集图片
构建方式
在大型语言模型评估领域，Open LLM Leaderboard 为模型性能的标准化衡量提供了重要平台。该数据集是在对 eachadea/vicuna-13b 模型进行自动化评估的过程中生成的，其构建方式严谨而系统。数据集包含了 64 个配置，每个配置对应一个特定的评估任务，例如 ARC Challenge、HellaSwag 和 GSM8K 等。评估过程历经两次运行，每次运行的结果都被保存为独立的切分，并以运行时间戳命名，而“train”切分则始终指向最新的评估结果。此外，一个名为“results”的额外配置汇总了所有运行的聚合指标，用于在 Leaderboard 上计算和展示模型的整体表现。
特点
该数据集的核心特点在于其结构化的多任务评估框架，能够全面反映模型在不同维度上的能力。每个配置下的数据以 Parquet 格式存储，保证了高效的数据存取与处理。数据集通过时间戳切分保留了历史评估记录，使得研究者可以追溯模型性能的演变轨迹。同时，“latest”切分的设计确保了用户能够便捷地获取最新成果。聚合结果配置提供了诸如准确率、精确匹配和 F1 分数等关键指标的统计值及其标准误差，为深入分析模型表现提供了量化基础。
使用方法
使用该数据集进行模型评估分析时，研究者可以借助 Hugging Face 的 datasets 库轻松加载所需数据。例如，通过指定配置名称（如“harness_winogrande_5”）和切分（如“train”），即可获取特定任务的评估细节。加载后的数据可用于复现 Leaderboard 上的结果，或进行更深层次的性能比较与可视化分析。该数据集特别适合用于验证模型在标准化基准上的表现，支持研究者开展跨模型、跨任务的对比研究，从而推动语言模型评估方法的改进与创新。
背景与挑战
背景概述
随着大语言模型（LLM）技术的迅猛发展，如何系统性地评估模型在多样化任务中的表现成为研究焦点。Open LLM Leaderboard由Hugging Face团队于2023年创建，旨在为社区提供一个统一、透明的模型评测平台。该数据集聚焦于Vicuna-13B模型的评估运行，由Clementine等人主导维护，核心研究问题在于通过标准化基准（如ARC、HellaSwag、MMLU等）量化模型在推理、常识理解及数学求解等维度的能力。其影响力体现在为LLM比较提供了可复现的参照体系，推动了模型开发与迭代的规范化进程。
当前挑战
该数据集面临的挑战包括两大层面。其一，在领域问题层面，现有基准如GSM8K和DROP的评测结果揭示了Vicuna-13B在复杂数学推理与文本理解任务上的显著短板，其准确率分别仅为7.58%和0.19%，凸显了当前模型在精确逻辑推理与细粒度信息抽取方面的局限。其二，在构建过程中，数据集需整合来自多次评测运行（如2023年7月与10月）的异构结果，并确保各配置（如64个任务分支）的版本兼容性与数据一致性，这对自动化流水线的稳定性提出了严苛要求。
常用场景
经典使用场景
在大型语言模型（LLM）的评估与比较研究中，该数据集作为Open LLM Leaderboard的标准化评测记录，被广泛应用于模型性能的量化分析。研究者通过加载其64个任务配置（如ARC挑战赛、GSM8K数学推理、Winogrande常识推理等），可复现Vicuna-13B模型在多项基准上的精确得分，从而横向对比不同模型在推理、知识理解与生成任务中的表现差异。
衍生相关工作
基于该数据集衍生的经典工作包括对Vicuna-13B的深入误差分析，例如通过跨任务配置（如HendrycksTest的57个学科）揭示模型在专业知识上的短板，进而催生了针对特定领域（如医学、法律）的领域微调研究。此外，该数据集的时间戳分割设计启发了模型性能退化检测工作，研究者利用多次评测记录探索持续学习或模型更新对稳定性的影响。
数据集最近研究
最新研究方向
在大型语言模型评估领域，开源模型性能的标准化评测已成为推动技术进步的核心驱动力。Vicuna-13B作为一款基于LLaMA微调的高性能对话模型，其在Open LLM Leaderboard上的评测数据为研究社区提供了宝贵的性能基准。当前前沿研究方向聚焦于多维度能力评估体系的构建，涵盖常识推理（如Winogrande）、数学推理（如GSM8K）以及阅读理解（如DROP）等关键任务。该数据集通过64个细粒度配置记录模型在不同任务上的表现，揭示了Vicuna-13B在词义消歧任务中展现出较强能力（Winogrande准确率达71.03%），但在数学推理方面仍有显著提升空间（GSM8K准确率仅7.58%）。这些发现不仅为模型迭代指明了优化方向，更推动了开源社区对评估标准透明化与可复现性的重视，对构建公平竞争的AI生态具有里程碑意义。
以上内容由遇见数据集搜集并总结生成
关于我们
遇见数据集——让每个数据集都被发现，让每一次遇见都有价值。
数发科官网www.sfktec.com
联系我们
selectdataset@iotsh.com.cn
商业合作
数据驱动未来，携手共赢发展
二维码
社区交流群
二维码
科研交流群
商业服务