open-llm-leaderboard-old/details_togethercomputer__RedPajama-INCITE-7B-Instruct
收藏Hugging Face2023-10-19 更新2024-06-22 收录
下载链接：
https://hf-mirror.com/datasets/open-llm-leaderboard-old/details_togethercomputer__RedPajama-INCITE-7B-Instruct
下载链接
链接失效反馈官方服务：
资源简介：
该数据集是在模型togethercomputer/RedPajama-INCITE-7B-Instruct的评估过程中自动生成的。数据集由64个配置组成，每个配置对应一个评估任务。数据集由2次运行生成，每次运行的结果都作为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，并用于计算和显示在Open LLM Leaderboard上的聚合指标。
该数据集是在模型togethercomputer/RedPajama-INCITE-7B-Instruct的评估过程中自动生成的。数据集由64个配置组成，每个配置对应一个评估任务。数据集由2次运行生成，每次运行的结果都作为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，并用于计算和显示在Open LLM Leaderboard上的聚合指标。
原始信息汇总
数据集概述
数据集摘要
该数据集是在对模型 togethercomputer/RedPajama-INCITE-7B-Instruct 进行评估运行期间自动创建的。数据集由64个配置组成，每个配置对应一个评估任务。数据集从2次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。"train" 分割始终指向最新的结果。
数据集结构
- 配置数量：64个配置
- 运行次数：2次
- 分割命名：使用运行的时间戳
- "train" 分割：指向最新的结果
数据加载示例
python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_togethercomputer__RedPajama-INCITE-7B-Instruct", "harness_winogrande_5", split="train")
最新结果
以下是2023年10月19日 05:42:36.863532 运行的最新结果： python { "all": { "em": 0.001153523489932886, "em_stderr": 0.0003476179896857104, "f1": 0.04208578020134259, "f1_stderr": 0.00114625984545935, "acc": 0.3327435280488615, "acc_stderr": 0.008428433474529594 }, "harness|drop|3": { "em": 0.001153523489932886, "em_stderr": 0.0003476179896857104, "f1": 0.04208578020134259, "f1_stderr": 0.00114625984545935 }, "harness|gsm8k|5": { "acc": 0.01592115238817286, "acc_stderr": 0.0034478192723889985 }, "harness|winogrande|5": { "acc": 0.6495659037095501, "acc_stderr": 0.013409047676670187 } }
配置详情
以下是部分配置及其数据文件路径：
-
harness_arc_challenge_25
- 分割：2023_07_19T16_41_06.835084
- 路径：
**/details_harness|arc:challenge|25_2023-07-19T16:41:06.835084.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|arc:challenge|25_2023-07-19T16:41:06.835084.parquet
- 路径：
- 分割：2023_07_19T16_41_06.835084
-
harness_drop_3
- 分割：2023_10_19T05_42_36.863532
- 路径：
**/details_harness|drop|3_2023-10-19T05-42-36.863532.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|drop|3_2023-10-19T05-42-36.863532.parquet
- 路径：
- 分割：2023_10_19T05_42_36.863532
-
harness_gsm8k_5
- 分割：2023_10_19T05_42_36.863532
- 路径：
**/details_harness|gsm8k|5_2023-10-19T05-42-36.863532.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|gsm8k|5_2023-10-19T05-42-36.863532.parquet
- 路径：
- 分割：2023_10_19T05_42_36.863532
-
harness_hellaswag_10
- 分割：2023_07_19T16_41_06.835084
- 路径：
**/details_harness|hellaswag|10_2023-07-19T16:41:06.835084.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|hellaswag|10_2023-07-19T16:41:06.835084.parquet
- 路径：
- 分割：2023_07_19T16_41_06.835084
-
harness_hendrycksTest_5
- 分割：2023_07_19T16_41_06.835084
- 路径：
**/details_harness|hendrycksTest-abstract_algebra|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-anatomy|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-astronomy|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-business_ethics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-clinical_knowledge|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-college_biology|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-college_chemistry|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-college_computer_science|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-college_mathematics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-college_medicine|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-college_physics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-computer_security|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-conceptual_physics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-econometrics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-electrical_engineering|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-elementary_mathematics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-formal_logic|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-global_facts|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_biology|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_chemistry|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_computer_science|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_european_history|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_geography|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_government_and_politics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_macroeconomics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_mathematics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_microeconomics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_physics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_psychology|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_statistics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_us_history|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-high_school_world_history|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-human_aging|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-human_sexuality|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-international_law|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-jurisprudence|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-logical_fallacies|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-machine_learning|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-management|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-marketing|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-medical_genetics|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-miscellaneous|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-moral_disputes|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-moral_scenarios|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-nutrition|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-philosophy|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-prehistory|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-professional_accounting|5_2023-07-19T16:41:06.835084.parquet - 路径：
**/details_harness|hendrycksTest-professional_law|5_2023-07-19T16:41:06.835084.parquet - 路径：`**/details_har
- 路径：
- 分割：2023_07_19T16_41_06.835084
搜集汇总
数据集介绍
构建方式
在大型语言模型评估领域，Open LLM Leaderboard为模型性能的量化分析提供了标准化平台。该数据集源自对togethercomputer/RedPajama-INCITE-7B-Instruct模型在Leaderboard上的自动化评估流程。构建方式上，数据集由64个独立配置组成，每个配置对应一项被评估的任务，如ARC挑战、DROP、GSM8K等。评估过程历经两次运行，每次运行的结果均作为独立分割存储，分割名称以运行时间戳命名，而'train'分割则始终指向最新结果。此外，一个额外的'results'配置汇集了所有运行的聚合指标，用于Leaderboard上综合得分的计算与展示。数据以Parquet格式存储，确保高效读取与处理。
特点
该数据集的核心特色在于其结构化与版本化设计，能够清晰追溯模型在不同时间点、不同任务上的性能演变。每个任务配置独立封装，便于研究者聚焦特定领域进行分析。时间戳分割机制不仅保留了历史评估记录，还通过'latest'分割自动指向最新数据，实现了动态更新。'results'配置进一步提炼了跨任务的聚合指标，为模型整体能力评估提供了便捷入口。这种设计既支持细粒度的任务级探究，也兼顾了宏观性能的概览，充分满足了从科研到工程的多层次需求。
使用方法
使用该数据集时，研究者可通过HuggingFace的datasets库灵活加载所需数据。具体而言，调用load_dataset函数并指定数据集名称、目标任务配置（如'harness_winogrande_5'）及分割名称（如'train'）即可获取最新评估详情。若需分析历史结果，可改用对应时间戳分割名。对于跨任务汇总，可直接加载'results'配置以获取聚合指标。数据加载后，研究者可利用Pandas等工具对Parquet格式的详细信息进行解析，从而深入分析模型在各项基准测试中的表现，支持后续的模型优化与对比研究。
背景与挑战
背景概述
随着大规模语言模型在自然语言处理领域的迅猛发展，如何系统性地评估其泛化能力与多任务表现成为研究焦点。RedPajama-INCITE-7B-Instruct是由Together Computer团队于2023年发布的一款指令微调模型，其基于RedPajama开源语料库训练，旨在探索高效且可复现的指令遵循能力。该模型在Open LLM Leaderboard平台上接受了全面评测，该平台由Hugging Face团队维护，专注于提供标准化、透明化的模型性能对比。核心研究问题在于验证中等规模指令微调模型在多样化任务中的鲁棒性与准确性，涵盖常识推理、数学解题及阅读理解等维度。其影响力体现在为开源社区提供了可复现的评估基准，推动了关于模型规模与指令微调效率之间权衡的深入探讨，并成为后续模型如LLaMA-2系列的重要参考。
当前挑战
该数据集所反映的核心领域挑战在于如何精准衡量指令微调模型在零样本或少样本场景下的推理能力。具体而言，模型在GSM8K数学推理任务中仅达到1.59%的准确率，暴露出复杂符号推理与多步计算能力的显著不足；而在DROP阅读理解任务中，F1分数仅为4.2%，凸显了模型在细节抽取与数值比较上的脆弱性。构建过程中，挑战在于确保评测数据的多样性与公平性，需涵盖从常识问答到专业学科（如57个HendrycksTest子任务）的广泛范畴，同时避免数据泄露导致的性能虚高。此外，时间戳分片机制虽增强了结果可追溯性，但多次运行间的结果一致性维护、以及不同配置下评测成本的平衡，均为工程实现增添了复杂度。
常用场景
经典使用场景
在大型语言模型（LLM）蓬勃发展的时代，对模型性能进行系统化、标准化的评估成为推动该领域进步的关键。该数据集作为Open LLM Leaderboard自动生成的评估记录，专门用于存储和追踪RedPajama-INCITE-7B-Instruct模型在多项基准任务上的表现。其经典使用场景在于，研究人员可通过加载该数据集中的特定配置（如harness_winogrande_5），获取模型在常识推理、数学解题、文本理解等任务上的细粒度评估结果，从而实现对模型能力的精准剖析与横向对比。
实际应用
在实际应用中，该数据集为模型选型与部署决策提供了量化依据。企业和开发者可以依据其中记录的GSM8K、Winogrande等任务上的准确率与置信区间，筛选出最适合特定业务场景（如数学教育辅助、常识问答系统）的模型版本。此外，它还能作为自动化评测流水线的数据源，持续监控模型在迭代升级过程中的性能变化，确保上线模型的质量稳定，降低因模型退化带来的业务风险。
衍生相关工作
该数据集衍生了一系列关于模型性能分析与评估方法论的重要工作。例如，研究者利用其记录的细粒度结果，深入分析了RedPajama-INCITE-7B-Instruct在不同知识领域（如医学、法律、历史）上的能力边界，催生了关于模型知识分布与训练数据偏差的探讨。同时，基于该数据集的时间戳分割，相关工作探索了评估过程的稳定性与随机性，推动了更科学的评估指标（如带标准误的准确率）在社区内的普及，并启发了后续多轮评估与结果聚合的标准化流程设计。
以上内容由遇见数据集搜集并总结生成
