open-llm-leaderboard/details_chavinlo__gpt4-x-alpaca
收藏数据集卡片 for Evaluation run of chavinlo/gpt4-x-alpaca
数据集描述
数据集概述
该数据集是在模型 chavinlo/gpt4-x-alpaca 在 Open LLM Leaderboard 上的评估运行期间自动创建的。
数据集由3个配置组成,每个配置对应一个评估任务。
数据集从1次运行中创建。每次运行可以在每个配置中作为一个特定的分割找到,分割名称使用运行的 timestamp。"train" 分割始终指向最新的结果。
一个额外的配置 "results" 存储所有运行的聚合结果(并用于计算和显示 Open LLM Leaderboard 上的聚合指标)。
要加载运行的详细信息,可以执行以下操作: python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_chavinlo__gpt4-x-alpaca", "harness_winogrande_5", split="train")
最新结果
以下是 2023-09-22T20:56:09.987040 运行的最新结果(注意,如果连续评估没有覆盖相同的任务,仓库中可能会有其他任务的结果。您可以在 "results" 和每个评估的 "latest" 分割中找到每个任务的结果):
python { "all": { "em": 0.15478187919463088, "em_stderr": 0.003704111989193061, "f1": 0.24988045302013467, "f1_stderr": 0.00385619985047934, "acc": 0.3648545063856345, "acc_stderr": 0.008703557271933391 }, "harness|drop|3": { "em": 0.15478187919463088, "em_stderr": 0.003704111989193061, "f1": 0.24988045302013467, "f1_stderr": 0.00385619985047934 }, "harness|gsm8k|5": { "acc": 0.028051554207733132, "acc_stderr": 0.004548229533836362 }, "harness|winogrande|5": { "acc": 0.7016574585635359, "acc_stderr": 0.012858885010030421 } }



