open-llm-leaderboard-old/details_andysalerno__mistral-sft-v3
收藏数据集概述
数据集摘要
该数据集是在评估模型andysalerno/mistral-sft-v3在Open LLM Leaderboard上的自动创建的。数据集包含63个配置，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。"train"分割始终指向最新的结果。
数据集结构
数据集包含63个配置，每个配置对应一个评估任务。每个配置包含以下信息：
- 配置名称：例如
harness_arc_challenge_25、harness_gsm8k_5等。 - 数据文件：包含不同分割的数据文件路径，例如
2024_02_01T22_26_34.226516和latest分割。
数据加载示例
python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_andysalerno__mistral-sft-v3", "harness_winogrande_5", split="train")
最新结果
以下是2024-02-01T22:26:34.226516运行的最新结果：
python { "all": { "acc": 0.6300888206326156, "acc_stderr": 0.03234208868308631, "acc_norm": 0.6368476388384399, "acc_norm_stderr": 0.033000158601577026, "mc1": 0.3219094247246022, "mc1_stderr": 0.016355567611960397, "mc2": 0.48486973835959385, "mc2_stderr": 0.01523378921503333 }, "harness|arc:challenge|25": { "acc": 0.5665529010238908, "acc_stderr": 0.014481376224558902, "acc_norm": 0.613481228668942, "acc_norm_stderr": 0.014230084761910471 }, "harness|hellaswag|10": { "acc": 0.629555865365465, "acc_stderr": 0.004819367172685962, "acc_norm": 0.8223461461860188, "acc_norm_stderr": 0.003814399385087734 }, ... }
配置详情
-
harness_arc_challenge_25
- 分割：
2024_02_01T22_26_34.226516 - 路径：
**/details_harness|arc:challenge|25_2024-02-01T22-26-34.226516.parquet - 分割：
latest - 路径：
**/details_harness|arc:challenge|25_2024-02-01T22-26-34.226516.parquet
- 分割：
-
harness_gsm8k_5
- 分割：
2024_02_01T22_26_34.226516 - 路径：
**/details_harness|gsm8k|5_2024-02-01T22-26-34.226516.parquet - 分割：
latest - 路径：
**/details_harness|gsm8k|5_2024-02-01T22-26-34.226516.parquet
- 分割：
-
harness_hellaswag_10
- 分割：
2024_02_01T22_26_34.226516 - 路径：
**/details_harness|hellaswag|10_2024-02-01T22-26-34.226516.parquet - 分割：
latest - 路径：
**/details_harness|hellaswag|10_2024-02-01T22-26-34.226516.parquet
- 分割：
-
harness_hendrycksTest_5
- 分割：
2024_02_01T22_26_34.226516 - 路径：
**/details_harness|hendrycksTest-abstract_algebra|5_2024-02-01T22-26-34.226516.parquet**/details_harness|hendrycksTest-anatomy|5_2024-02-01T22-26-34.226516.parquet**/details_harness|hendrycksTest-astronomy|5_2024-02-01T22-26-34.226516.parquet- ...
- 分割：
latest - 路径：
**/details_harness|hendrycksTest-abstract_algebra|5_2024-02-01T22-26-34.226516.parquet**/details_harness|hendrycksTest-anatomy|5_2024-02-01T22-26-34.226516.parquet**/details_harness|hendrycksTest-astronomy|5_2024-02-01T22-26-34.226516.parquet- ...
- 分割：
