open-llm-leaderboard/details_allenai__OLMo-1B-hf

该数据集是在评估模型allenai/OLMo-1B-hf时自动创建的，主要用于Open LLM Leaderboard的评估任务。数据集由63个配置组成，每个配置对应一个评估任务。数据集由2次运行生成，每次运行的结果作为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of allenai/OLMo-1B-hf

数据集描述

• dataset_summary: 该数据集是在评估模型allenai/OLMo-1B-hf运行期间自动创建的，用于Open LLM Leaderboard。

数据集组成

• 配置数量: 63个配置，每个配置对应一个评估任务。
• 数据来源: 数据集由2次运行创建，每次运行对应一个特定的分割，分割名称使用运行的时间戳命名。
• 特殊配置: 额外配置“results”存储所有运行结果的聚合结果，用于计算和显示聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_allenai__OLMo-1B-hf", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 来自2024-04-23T06:24:47.411659的运行结果。
• 结果内容: 包含多个任务的评估结果，如准确率(acc)、标准误差(acc_stderr)等。

数据集配置详情

配置列表

• config_name: harness_arc_challenge_25
• config_name: harness_gsm8k_5
• config_name: harness_hellaswag_10
• config_name: harness_hendrycksTest_5

每个配置包含多个数据文件，每个文件对应不同的分割（如2024_04_23T06_24_11.907496、2024_04_23T06_24_47.411659、latest），路径指向具体的parquet文件。

结论

该数据集用于评估allenai/OLMo-1B-hf模型在多个任务上的性能，通过不同的配置和分割提供详细的评估结果。