open-llm-leaderboard/details_FabbriSimo01__Cerebras_1.3b_Quantized
收藏数据集卡片 for Evaluation run of FabbriSimo01/Cerebras_1.3b_Quantized
数据集描述
数据集摘要
该数据集是在模型 FabbriSimo01/Cerebras_1.3b_Quantized 在 Open LLM Leaderboard 上的评估运行期间自动创建的。
数据集由3个配置组成,每个配置对应一个评估任务。
数据集是从1次运行中创建的。每次运行可以在每个配置中找到特定的分割,分割名称使用运行的时间戳。"train" 分割始终指向最新的结果。
一个额外的配置 "results" 存储了所有运行的聚合结果(并用于计算和显示 Open LLM Leaderboard 上的聚合指标)。
要加载运行的详细信息,可以执行以下操作: python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_FabbriSimo01__Cerebras_1.3b_Quantized", "harness_winogrande_5", split="train")
最新结果
以下是 2023-09-22T16:08:53.530245 运行的最新结果(注意,如果连续评估没有覆盖相同的任务,仓库中可能会有其他任务的结果。您可以在每个评估的 "latest" 分割中找到每个任务的结果):
python { "all": { "em": 0.0007340604026845638, "em_stderr": 0.0002773614457335628, "f1": 0.03707739093959742, "f1_stderr": 0.0010591502361020477, "acc": 0.2694565433979606, "acc_stderr": 0.007855236930515893 }, "harness|drop|3": { "em": 0.0007340604026845638, "em_stderr": 0.0002773614457335628, "f1": 0.03707739093959742, "f1_stderr": 0.0010591502361020477 }, "harness|gsm8k|5": { "acc": 0.0037907505686125853, "acc_stderr": 0.0016927007401502038 }, "harness|winogrande|5": { "acc": 0.5351223362273086, "acc_stderr": 0.014017773120881582 } }



