open-llm-leaderboard-old/details_yam-peleg__Experiment20-7B
收藏数据集概述
数据集 Evaluation run of yam-peleg/Experiment20-7B 是在评估模型 yam-peleg/Experiment20-7B 的过程中自动创建的。该数据集包含63个配置,每个配置对应一个评估任务。数据集来源于一次运行,每个运行结果可以在每个配置中找到特定的分割,分割名称使用运行的时间戳。"train" 分割始终指向最新的结果。
数据集结构
数据集包含以下配置:
harness_arc_challenge_25harness_gsm8k_5harness_hellaswag_10harness_hendrycksTest_5
每个配置包含多个数据文件,分为不同的分割(如 2024_02_20T04_27_28.761237 和 latest),每个分割指向特定的数据文件路径。
最新结果
以下是来自 2024-02-20T04:27:28.761237 运行的最新结果:
python { "all": { "acc": 0.6388395808326348, "acc_stderr": 0.03248110016666022, "acc_norm": 0.6382917347789664, "acc_norm_stderr": 0.03316218579189402, "mc1": 0.6083231334149327, "mc1_stderr": 0.017087795881769646, "mc2": 0.7771507307486577, "mc2_stderr": 0.013765185430621489 }, "harness|arc:challenge|25": { "acc": 0.7030716723549488, "acc_stderr": 0.013352025976725223, "acc_norm": 0.7303754266211604, "acc_norm_stderr": 0.012968040686869148 }, "harness|hellaswag|10": { "acc": 0.7070304720175263, "acc_stderr": 0.004541944342035901, "acc_norm": 0.8861780521808404, "acc_norm_stderr": 0.0031694581233577238 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.4, "acc_stderr": 0.04923659639173309, "acc_norm": 0.4, "acc_norm_stderr": 0.04923659639173309 }, # 其他任务的结果... }
数据加载示例
python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_yam-peleg__Experiment20-7B", "harness_winogrande_5", split="train")



