open-llm-leaderboard/details_PulsarAI__2x-LoRA-Assemble-13B
收藏数据集卡片 for Evaluation run of PulsarAI/2x-LoRA-Assemble-13B
数据集描述
数据集概述
数据集是在模型 PulsarAI/2x-LoRA-Assemble-13B 的评估运行期间自动创建的,用于 Open LLM Leaderboard。
数据集由3个配置组成,每个配置对应一个评估任务。
数据集是从1次运行中创建的。每次运行可以在每个配置中作为一个特定的分割找到,分割名称使用运行的时间戳。"train" 分割始终指向最新的结果。
一个额外的配置 "results" 存储了运行的所有聚合结果(并用于计算和显示 Open LLM Leaderboard 上的聚合指标)。
要加载某个运行的详细信息,可以执行以下操作: python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_PulsarAI__2x-LoRA-Assemble-13B", "harness_winogrande_5", split="train")
最新结果
以下是 2023-10-28T12:51:33.520951 运行的最新结果(注意,如果连续评估没有覆盖相同的任务,仓库中可能会有其他任务的结果。您可以在每个评估的 "latest" 分割中找到每个任务的结果):
python { "all": { "em": 0.01740771812080537, "em_stderr": 0.0013393597649753585, "f1": 0.12005662751677883, "f1_stderr": 0.002244767452564408, "acc": 0.42864652552428745, "acc_stderr": 0.009950202519105519 }, "harness|drop|3": { "em": 0.01740771812080537, "em_stderr": 0.0013393597649753585, "f1": 0.12005662751677883, "f1_stderr": 0.002244767452564408 }, "harness|gsm8k|5": { "acc": 0.09249431387414708, "acc_stderr": 0.007980396874560173 }, "harness|winogrande|5": { "acc": 0.7647987371744278, "acc_stderr": 0.011920008163650865 } }



