open-llm-leaderboard-old/details_MaziyarPanahi__TheTop-5x7B-Instruct-S4-v0.1
收藏数据集概述
数据集来源
该数据集是在评估模型 MaziyarPanahi/TheTop-5x7B-Instruct-S4-v0.1 在 Open LLM Leaderboard 上的运行过程中自动创建的。
数据集结构
- 配置数量:63个配置,每个配置对应一个评估任务。
- 数据来源:数据集从1次运行中创建,每个运行可以在每个配置中作为一个特定的分片找到,分片名称使用运行的时间戳。
- 分片信息:每个配置包含多个分片,其中“train”分片指向最新的结果。
- 结果汇总:一个额外的配置“results”存储所有运行的汇总结果,用于计算和显示在 Open LLM Leaderboard 上的聚合指标。
数据加载示例
python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_MaziyarPanahi__TheTop-5x7B-Instruct-S4-v0.1", "harness_winogrande_5", split="train")
最新结果
以下是 最新结果 的摘要: python { "all": { "acc": 0.6568351479800627, "acc_stderr": 0.03199600851869088, "acc_norm": 0.6554901222242155, "acc_norm_stderr": 0.03267670432184765, "mc1": 0.5104039167686658, "mc1_stderr": 0.017499711430249268, "mc2": 0.6556430108444109, "mc2_stderr": 0.015519025079862213 }, "harness|arc:challenge|25": { "acc": 0.6919795221843004, "acc_stderr": 0.013491429517292038, "acc_norm": 0.7218430034129693, "acc_norm_stderr": 0.013094469919538812 }, "harness|hellaswag|10": { "acc": 0.7202748456482773, "acc_stderr": 0.0044794676194648, "acc_norm": 0.8828918542123083, "acc_norm_stderr": 0.003208919510309931 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.33, "acc_stderr": 0.047258156262526045, "acc_norm": 0.33, "acc_norm_stderr": 0.047258156262526045 }, # 其他任务的结果... }
配置信息
-
harness_arc_challenge_25
- 分片:2024_02_18T23_18_37.432779, latest
- 路径:
**/details_harness|arc:challenge|25_2024-02-18T23-18-37.432779.parquet
-
harness_gsm8k_5
- 分片:2024_02_18T23_18_37.432779, latest
- 路径:
**/details_harness|gsm8k|5_2024-02-18T23-18-37.432779.parquet
-
harness_hellaswag_10
- 分片:2024_02_18T23_18_37.432779, latest
- 路径:
**/details_harness|hellaswag|10_2024-02-18T23-18-37.432779.parquet
-
harness_hendrycksTest_5
- 分片:2024_02_18T23_18_37.432779, latest
- 路径:多个路径,包括
**/details_harness|hendrycksTest-abstract_algebra|5_2024-02-18T23-18-37.432779.parquet等。



