five

open-llm-leaderboard/details_dhmeltzer__llama-7b-SFT_ds_wiki65k_1024_r_64_alpha_16_merged

收藏
Hugging Face2023-10-26 更新2024-03-04 收录
下载链接:
https://hf-mirror.com/datasets/open-llm-leaderboard/details_dhmeltzer__llama-7b-SFT_ds_wiki65k_1024_r_64_alpha_16_merged
下载链接
链接失效反馈
官方服务:
资源简介:
该数据集是在模型[dhmeltzer/llama-7b-SFT_ds_wiki65k_1024_r_64_alpha_16_merged](https://huggingface.co/dhmeltzer/llama-7b-SFT_ds_wiki65k_1024_r_64_alpha_16_merged)的评估运行期间自动创建的,并且该评估运行是在[Open LLM Leaderboard](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard)上进行的。数据集由64个配置组成,每个配置对应一个评估任务。数据集是从3次运行中创建的,每次运行都可以在每个配置的特定分割中找到,分割名称使用运行的时间戳命名。"train"分割始终指向最新的结果。此外,还有一个名为"results"的配置,存储了所有运行的聚合结果,并用于计算和显示[Open LLM Leaderboard](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard)上的聚合指标。
提供机构:
open-llm-leaderboard
原始信息汇总

数据集概述

数据集来源

  • 该数据集是在评估模型 dhmeltzer/llama-7b-SFT_ds_wiki65k_1024_r_64_alpha_16_mergedOpen LLM Leaderboard 上的运行过程中自动创建的。

数据集结构

  • 数据集包含 64 个配置,每个配置对应一个评估任务。
  • 数据集从 3 次运行中创建,每次运行可以在每个配置中找到特定的分割,分割名称使用运行的时间戳。
  • "train" 分割始终指向最新的结果。

结果配置

  • 一个额外的配置 "results" 存储所有运行的聚合结果,用于计算和显示 Open LLM Leaderboard 上的聚合指标。

数据加载示例

  • 加载特定运行的详细信息示例: python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_dhmeltzer__llama-7b-SFT_ds_wiki65k_1024_r_64_alpha_16_merged", "harness_winogrande_5", split="train")

最新结果

  • 最新结果来自 2023-10-26T03:13:00.871936 运行,包含以下指标: python { "all": { "em": 0.001572986577181208, "em_stderr": 0.0004058451132417744, "f1": 0.06281459731543623, "f1_stderr": 0.0014401527427077175, "acc": 0.3901322603943458, "acc_stderr": 0.009101657407871456 }, "harness|drop|3": { "em": 0.001572986577181208, "em_stderr": 0.0004058451132417744, "f1": 0.06281459731543623, "f1_stderr": 0.0014401527427077175 }, "harness|gsm8k|5": { "acc": 0.04624715693707354, "acc_stderr": 0.005784991662691866 }, "harness|winogrande|5": { "acc": 0.734017363851618, "acc_stderr": 0.012418323153051046 } }

配置详情

  • 数据集包含多个配置,每个配置对应不同的任务和运行时间戳。以下是部分配置示例:
    • harness_arc_challenge_25
      • 分割:2023_08_31T20_11_58.218501
      • 路径:**/details_harness|arc:challenge|25_2023-08-31T20:11:58.218501.parquet
      • 分割:2023_09_05T11_01_05.889294
      • 路径:**/details_harness|arc:challenge|25_2023-09-05T11:01:05.889294.parquet
      • 分割:latest
      • 路径:**/details_harness|arc:challenge|25_2023-09-05T11:01:05.889294.parquet
    • harness_drop_3
      • 分割:2023_10_26T03_13_00.871936
      • 路径:**/details_harness|drop|3_2023-10-26T03-13-00.871936.parquet
      • 分割:latest
      • 路径:**/details_harness|drop|3_2023-10-26T03-13-00.871936.parquet
    • harness_gsm8k_5
      • 分割:2023_10_26T03_13_00.871936
      • 路径:**/details_harness|gsm8k|5_2023-10-26T03-13-00.871936.parquet
      • 分割:latest
      • 路径:**/details_harness|gsm8k|5_2023-10-26T03-13-00.871936.parquet
    • harness_hellaswag_10
      • 分割:2023_08_31T20_11_58.218501
      • 路径:**/details_harness|hellaswag|10_2023-08-31T20:11:58.218501.parquet
      • 分割:2023_09_05T11_01_05.889294
      • 路径:**/details_harness|hellaswag|10_2023-09-05T11:01:05.889294.parquet
      • 分割:latest
      • 路径:**/details_harness|hellaswag|10_2023-09-05T11:01:05.889294.parquet
    • harness_hendrycksTest_5
      • 分割:2023_08_31T20_11_58.218501
      • 路径:**/details_harness|hendrycksTest-abstract_algebra|5_2023-08-31T20:11:58.218501.parquet
      • 分割:2023_09_05T11_01_05.889294
      • 路径:**/details_harness|hendrycksTest-abstract_algebra|5_2023-09-05T11:01:05.889294.parquet
      • 分割:latest
      • 路径:**/details_harness|hendrycksTest-abstract_algebra|5_2023-09-05T11:01:05.889294.parquet
二维码
社区交流群
二维码
科研交流群
商业服务