open-llm-leaderboard/details_huggyllama__llama-13b
收藏官方服务：
资源简介：
该数据集是在模型huggyllama/llama-13b的评估运行期间自动创建的，用于Open LLM Leaderboard。数据集由122个配置组成，每个配置对应一个评估任务。数据集由4次运行创建，每次运行可以在每个配置中找到特定的分割，分割以运行的时间戳命名。train分割始终指向最新的结果。此外，还有一个名为results的配置存储了所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。
This dataset was automatically generated during the evaluation runs of the model huggyllama/llama-13b for the Open LLM Leaderboard. It comprises 122 configurations, each corresponding to one evaluation task. The dataset is created via four separate runs; each run has a dedicated data split for every configuration, and the split is named after the run's timestamp. The train split always points to the most recent results. Additionally, a configuration named `results` stores the aggregated results across all runs, and is used to calculate and display the aggregate metrics on the Open LLM Leaderboard.
提供机构：
open-llm-leaderboard原始信息汇总
数据集概述
数据集名称
- Evaluation run of huggyllama/llama-13b
数据集描述
- 该数据集是在对模型 huggyllama/llama-13b 进行评估运行期间自动创建的。
数据集组成
- 数据集包含 122 个配置，每个配置对应一个评估任务。
- 数据集从 4 次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。
- "train" 分割始终指向最新的结果。
- 额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。
数据加载示例
python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_huggyllama__llama-13b", "harness_winogrande_5", split="train")
最新结果
- 以下是 2023-09-23T10:41:44.150256 运行的最新结果： python { "all": { "em": 0.0019924496644295304, "em_stderr": 0.000456667646266702, "f1": 0.056602348993288636, "f1_stderr": 0.0013004668300984712, "acc": 0.4191229752993855, "acc_stderr": 0.009626252314482865 }, "harness|drop|3": { "em": 0.0019924496644295304, "em_stderr": 0.000456667646266702, "f1": 0.056602348993288636, "f1_stderr": 0.0013004668300984712 }, "harness|gsm8k|5": { "acc": 0.0758150113722517, "acc_stderr": 0.007291205723162579 }, "harness|winogrande|5": { "acc": 0.7624309392265194, "acc_stderr": 0.011961298905803152 } }
配置详情
-
harness_arc_challenge_25
- 分割：2023_07_24T15_13_44.970123
- 路径：
**/details_harness|arc:challenge|25_2023-07-24T15:13:44.970123.parquet
- 路径：
- 分割：2023_08_19T22_15_08.436043
- 路径：
**/details_harness|arc:challenge|25_2023-08-19T22:15:08.436043.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|arc:challenge|25_2023-08-19T22:15:08.436043.parquet
- 路径：
- 分割：2023_07_24T15_13_44.970123
-
harness_drop_3
- 分割：2023_09_23T10_41_44.150256
- 路径：
**/details_harness|drop|3_2023-09-23T10-41-44.150256.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|drop|3_2023-09-23T10-41-44.150256.parquet
- 路径：
- 分割：2023_09_23T10_41_44.150256
-
harness_gsm8k_5
- 分割：2023_09_23T10_41_44.150256
- 路径：
**/details_harness|gsm8k|5_2023-09-23T10-41-44.150256.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|gsm8k|5_2023-09-23T10-41-44.150256.parquet
- 路径：
- 分割：2023_09_23T10_41_44.150256
-
harness_hellaswag_10
- 分割：2023_07_24T15_13_44.970123
- 路径：
**/details_harness|hellaswag|10_2023-07-24T15:13:44.970123.parquet
- 路径：
- 分割：2023_08_19T22_15_08.436043
- 路径：
**/details_harness|hellaswag|10_2023-08-19T22:15:08.436043.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|hellaswag|10_2023-08-19T22:15:08.436043.parquet
- 路径：
- 分割：2023_07_24T15_13_44.970123
-
harness_hendrycksTest_5
- 分割：2023_07_24T15_13_44.970123
- 路径：
**/details_harness|hendrycksTest-abstract_algebra|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-anatomy|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-astronomy|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-business_ethics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-clinical_knowledge|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-college_biology|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-college_chemistry|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-college_computer_science|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-college_mathematics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-college_medicine|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-college_physics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-computer_security|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-conceptual_physics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-econometrics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-electrical_engineering|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-elementary_mathematics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-formal_logic|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-global_facts|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_biology|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_chemistry|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_computer_science|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_european_history|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_geography|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_government_and_politics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_macroeconomics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_mathematics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_microeconomics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_physics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_psychology|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_statistics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_us_history|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-high_school_world_history|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-human_aging|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-human_sexuality|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-international_law|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-jurisprudence|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-logical_fallacies|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-machine_learning|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-management|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-marketing|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-medical_genetics|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-miscellaneous|5_2023-07-24T15:13:44.970123.parquet - 路径：
**/details_harness|hendrycksTest-moral_disputes|5_2023-07-24T15:13:44.970123.parquet - 路径：`**/details_harness|hendrycksTest-moral_scenarios|5_2023-07-24T15:13:44
- 路径：
- 分割：2023_07_24T15_13_44.970123
搜集汇总
数据集介绍
构建方式
在大型语言模型评测领域，对模型性能的精确量化是推动技术进步的关键。本数据集专为记录HuggyLlama团队开发的Llama-13B模型在Open LLM Leaderboard上的评估过程而构建。其构建方式基于自动化流水线，在模型接受标准化评测时同步生成。数据集共包含122个配置，每个配置对应一项具体的评测任务，例如ARC挑战、DROP、GSM8K及Winogrande等。评估共执行了4次独立的运行，每次运行的结果被存储为对应配置下的一个独立子集，子集名称采用运行时间戳进行标识。此外，数据集中还特别设置了一个名为“results”的配置，用于汇总所有运行的整体聚合指标，这些聚合指标直接服务于Open LLM Leaderboard上最终得分的计算与展示。
使用方法
研究人员可通过HuggingFace的datasets库便捷地调用本数据集。加载时需指定目标评测任务的配置名称，例如通过load_dataset函数传入“harness_winogrande_5”以获取Winogrande任务的详细评估记录。通过设置split参数为“train”，即可自动获取该任务的最新评估结果。若需回溯历史版本，则可将split指定为对应运行的时间戳字符串，从而访问特定时刻的原始评测数据。这种灵活的分片访问机制，使得本数据集既适用于实时监控模型性能变化，也适用于开展跨时间维度的深度分析研究。
背景与挑战
背景概述
大语言模型（LLM）的迅猛发展催生了对其性能进行系统化、标准化评估的迫切需求。在此背景下，Hugging Face团队于2023年发起并维护了开放大语言模型排行榜（Open LLM Leaderboard），旨在为社区提供一个透明、可复现的模型评测基准。该数据集正是针对huggyllama/llama-13b模型在该排行榜上的评估运行而自动生成的，由Clementine等人主导创建，记录了模型在多个任务上的详细表现。作为LLaMA系列模型的重要复现版本，huggyllama/llama-13b的评测数据不仅为研究者提供了衡量模型在常识推理、数学求解、文本理解等维度能力的量化指标，更推动了开源大模型生态的标准化进程，成为后续模型迭代与对比的关键参考依据。
当前挑战
该数据集所承载的核心挑战在于如何全面、公正地评估大语言模型的多维能力。一方面，LLaMA-13B模型需应对从常识推理（如HellaSwag、WinoGrande）到复杂数学（如GSM8K）再到广泛学科知识（如MMLU）的多样化任务，其性能差异揭示了模型在不同认知负荷下的泛化瓶颈。另一方面，数据集的构建过程本身面临技术挑战：评估需覆盖122个配置项，涉及多次运行的时间戳管理、结果聚合与版本迭代，确保评测的可复现性与一致性成为难点。此外，随着新模型与任务的涌现，如何动态扩展评估体系以保持基准的时效性与公平性，亦是持续存在的挑战。
常用场景
经典使用场景
在大型语言模型（LLM）的评估体系中，该数据集作为Open LLM Leaderboard的标准化评测记录，被广泛用于对比不同模型在多样化任务上的表现。其经典使用场景涵盖从常识推理（如Winogrande）到数学求解（如GSM8K）再到阅读理解（如DROP）等多维度能力测试。研究人员通过加载该数据集的特定配置与时间戳分片，可精确复现某一模型在特定基准上的细粒度结果，从而实现对模型能力的纵向追踪与横向比较。这种结构化评测数据为LLM研究提供了可重复、可验证的实证基础。
解决学术问题
该数据集系统性地解决了LLM评估中普遍存在的结果不可复现与标准不统一问题。通过为每个模型提供包含122个任务配置的详细评测记录，它使得学术界能够基于同一标准衡量模型在常识推理、世界知识、数学能力等核心维度的表现。其意义在于构建了公平透明的模型比较框架，有效缓解了因评测流程差异导致的性能误判。该数据集的持续更新也推动了模型能力边界的量化认知，为理解LLM的泛化能力与局限性提供了关键实证支撑。
实际应用
在实际应用中，该数据集为工业界与学术界的模型选型提供了直接依据。开发者可依据GSM8K的数学推理分数评估模型在智能教育场景中的适用性，或通过HellaSwag的常识推断结果判断模型在对话系统与内容生成任务中的可靠性。其结构化的历史评测数据还支持对模型迭代过程中的性能变化进行监控，辅助团队在资源有限的情况下做出更优的模型部署决策。此外，该数据集被集成到HuggingFace生态中，降低了模型评估的技术门槛。
数据集最近研究
最新研究方向
在大型语言模型（LLM）评测领域，huggyllama/llama-13b模型作为开源社区的重要基准，其评测数据集的构建与迭代反映了当前对模型能力全景式评估的迫切需求。该数据集依托Open LLM Leaderboard，通过多任务、多轮次的自动化评估框架，系统性地覆盖了常识推理（如Winogrande）、数学推理（GSM8K）、阅读理解（DROP）及广泛学科知识（HendrycksTest）等前沿方向。近期研究热点聚焦于通过细粒度、标准化评测体系揭示LLM在复杂推理与知识迁移中的能力边界，尤其是针对零样本泛化与鲁棒性的深度剖析。这一数据集的持续更新不仅为模型间横向对比提供了可靠基准，更推动了社区对LLM能力评估方法论的科学化演进，对指导下一代模型优化与可信AI发展具有里程碑意义。
以上内容由遇见数据集搜集并总结生成
