open-llm-leaderboard-old/details_psmathur__model_007_v2
收藏数据集卡片 for Evaluation run of psmathur/model_007_v2
数据集描述
数据集概述
数据集是在模型 psmathur/model_007_v2 在 Open LLM Leaderboard 上的评估运行期间自动创建的。
数据集由3个配置组成,每个配置对应一个评估任务。
数据集是从1次运行中创建的。每次运行可以在每个配置中作为一个特定的分割找到,分割名称使用运行的timestamp。"train"分割始终指向最新的结果。
一个额外的配置 "results" 存储了运行的所有聚合结果(并用于计算和显示 Open LLM Leaderboard 上的聚合指标)。
要加载运行的详细信息,可以执行以下操作: python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_psmathur__model_007_v2_public", "harness_winogrande_5", split="train")
最新结果
以下是来自运行 2023-11-09T09:02:32.950364 的最新结果(注意,如果连续评估没有覆盖相同的任务,仓库中可能会有其他任务的结果。您可以在结果和每个评估的 "latest" 分割中找到每个任务的结果):
python { "all": { "em": 0.1636954697986577, "em_stderr": 0.0037891361135837117, "f1": 0.31382655201342385, "f1_stderr": 0.0038067833114928977, "acc": 0.5639691402386229, "acc_stderr": 0.011361388955682963 }, "harness|drop|3": { "em": 0.1636954697986577, "em_stderr": 0.0037891361135837117, "f1": 0.31382655201342385, "f1_stderr": 0.0038067833114928977 }, "harness|gsm8k|5": { "acc": 0.28658074298711145, "acc_stderr": 0.012454841668337704 }, "harness|winogrande|5": { "acc": 0.8413575374901342, "acc_stderr": 0.010267936243028223 } }



