open-llm-leaderboard-old/details_ise-uiuc__Magicoder-S-CL-7B
收藏Hugging Face2024-02-18 更新2024-06-22 收录
下载链接：
https://hf-mirror.com/datasets/open-llm-leaderboard-old/details_ise-uiuc__Magicoder-S-CL-7B
下载链接
链接失效反馈官方服务：
资源简介：
该数据集是在评估模型ise-uiuc/Magicoder-S-CL-7B时自动创建的，用于在Open LLM Leaderboard上进行评估。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为一个特定的分割存储在配置中，分割名称使用运行的时间戳命名。train分割始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，用于在Open LLM Leaderboard上计算和显示聚合指标。
该数据集是在评估模型ise-uiuc/Magicoder-S-CL-7B时自动创建的，用于在Open LLM Leaderboard上进行评估。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为一个特定的分割存储在配置中，分割名称使用运行的时间戳命名。train分割始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，用于在Open LLM Leaderboard上计算和显示聚合指标。
提供机构：
open-llm-leaderboard-old
原始信息汇总
数据集概述
数据集创建
- 创建背景：该数据集是在评估模型 ise-uiuc/Magicoder-S-CL-7B 在 Open LLM Leaderboard 上的表现时自动创建的。
数据集结构
- 配置数量：数据集包含 63 个配置，每个配置对应一个评估任务。
- 数据来源：数据集从 1 次运行中创建，每个运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳。
- 最新结果："train" 分割始终指向最新的结果。
- 结果汇总：一个额外的配置 "results" 存储所有运行的汇总结果，用于计算和显示在 Open LLM Leaderboard 上的汇总指标。
数据加载示例
python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_ise-uiuc__Magicoder-S-CL-7B", "harness_winogrande_5", split="train")
最新结果
- 最新结果时间戳：2024-02-18T13:08:02.156798
- 结果示例： python { "all": { "acc": 0.3718569599312143, "acc_stderr": 0.0339783803051637, "acc_norm": 0.3748602328299042, "acc_norm_stderr": 0.03473311437050534, "mc1": 0.2582619339045288, "mc1_stderr": 0.01532182168847619, "mc2": 0.3866812757785812, "mc2_stderr": 0.014780127423015148 }, "harness|arc:challenge|25": { "acc": 0.40273037542662116, "acc_stderr": 0.014332236306790144, "acc_norm": 0.4334470989761092, "acc_norm_stderr": 0.014481376224558896 }, "harness|hellaswag|10": { "acc": 0.5020912168890659, "acc_stderr": 0.004989737768749945, "acc_norm": 0.6700856403106951, "acc_norm_stderr": 0.00469220827969058 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.29, "acc_stderr": 0.04560480215720684, "acc_norm": 0.29, "acc_norm_stderr": 0.04560480215720684 }, ... }
配置详情
-
配置名称：harness_arc_challenge_25
- 数据文件：
- 分割：2024_02_18T13_08_02.156798
- 路径：
**/details_harness|arc:challenge|25_2024-02-18T13-08-02.156798.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|arc:challenge|25_2024-02-18T13-08-02.156798.parquet
- 路径：
- 分割：2024_02_18T13_08_02.156798
- 数据文件：
-
配置名称：harness_gsm8k_5
- 数据文件：
- 分割：2024_02_18T13_08_02.156798
- 路径：
**/details_harness|gsm8k|5_2024-02-18T13-08-02.156798.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|gsm8k|5_2024-02-18T13-08-02.156798.parquet
- 路径：
- 分割：2024_02_18T13_08_02.156798
- 数据文件：
-
配置名称：harness_hellaswag_10
- 数据文件：
- 分割：2024_02_18T13_08_02.156798
- 路径：
**/details_harness|hellaswag|10_2024-02-18T13-08-02.156798.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|hellaswag|10_2024-02-18T13-08-02.156798.parquet
- 路径：
- 分割：2024_02_18T13_08_02.156798
- 数据文件：
-
配置名称：harness_hendrycksTest_5
- 数据文件：
- 分割：2024_02_18T13_08_02.156798
- 路径：
**/details_harness|hendrycksTest-abstract_algebra|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-anatomy|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-astronomy|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-business_ethics|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-clinical_knowledge|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-college_biology|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-college_chemistry|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-college_computer_science|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-college_mathematics|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-college_medicine|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-college_physics|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-computer_security|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-conceptual_physics|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-econometrics|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-electrical_engineering|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-elementary_mathematics|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-formal_logic|5_2024-02-18T13-08-02.156798.parquet**/details_harness|hendrycksTest-global_facts|5_2024-02-18T13-08-02.156798.parquet...
- 路径：
- 分割：2024_02_18T13_08_02.156798
- 数据文件：
