open-llm-leaderboard/details_nicholasKluge__Aira-124M
收藏Hugging Face2023-08-29 更新2024-03-04 收录
下载链接：
https://hf-mirror.com/datasets/open-llm-leaderboard/details_nicholasKluge__Aira-124M
下载链接
链接失效反馈官方服务：
资源简介：
该数据集是在Open LLM Leaderboard上对模型nicholasKluge/Aira-124M进行评估时自动生成的。数据集包含61个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为一个特定的分割存储在每个配置中，分割名称使用运行的时间戳。"train"分割始终指向最新的结果。此外，一个名为"results"的配置存储了所有运行的聚合结果，用于在Open LLM Leaderboard上计算和显示聚合指标。
提供机构：
open-llm-leaderboard
原始信息汇总
数据集概述
数据集组成
- 该数据集包含61个配置，每个配置对应一个评估任务。
- 数据集由1次运行创建，每个运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳。
- "train"分割始终指向最新的结果。
- 一个额外的配置"results"存储所有运行的聚合结果，用于计算和显示在Open LLM Leaderboard上的聚合指标。
最新结果
- 最新结果来自2023-08-29T19:04:35.532451的运行，包含多个任务的评估结果。
- 示例结果如下： python { "all": { "acc": 0.25265346552614076, "acc_stderr": 0.03117857003137413, "acc_norm": 0.253799928797708, "acc_norm_stderr": 0.03119563902907945, "mc1": 0.2460220318237454, "mc1_stderr": 0.01507721920066259, "mc2": 0.41020465472810524, "mc2_stderr": 0.015012374839842264 }, "harness|arc:challenge|25": { "acc": 0.19880546075085323, "acc_stderr": 0.01166285019817554, "acc_norm": 0.24573378839590443, "acc_norm_stderr": 0.012581033453730107 }, "harness|hellaswag|10": { "acc": 0.2921728739294961, "acc_stderr": 0.004538319464111971, "acc_norm": 0.312885879306911, "acc_norm_stderr": 0.004627207073171273 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.22, "acc_stderr": 0.04163331998932268, "acc_norm": 0.22, "acc_norm_stderr": 0.04163331998932268 }, # 其他任务的结果... }
数据加载示例
- 加载特定运行的详细信息示例如下： python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_nicholasKluge__Aira-124M", "harness_truthfulqa_mc_0", split="train")
