open-llm-leaderboard-old/details_psmathur__test_42_70b
收藏资源简介:
该数据集是在模型 [psmathur/test_42_70b](https://huggingface.co/psmathur/test_42_70b) 的评估运行期间自动创建的,用于在 [Open LLM Leaderboard](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard) 上进行评估。数据集包含3个配置,每个配置对应一个评估任务。数据集由2次运行生成,每次运行的结果可以在每个配置的特定分割中找到,分割名称使用运行的时间戳。train 分割始终指向最新的结果。此外,还有一个 results 配置存储了所有运行的聚合结果,用于计算和显示在 [Open LLM Leaderboard](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard) 上的聚合指标。
该数据集是在模型 [psmathur/test_42_70b](https://huggingface.co/psmathur/test_42_70b) 的评估运行期间自动创建的,用于在 [Open LLM Leaderboard](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard) 上进行评估。数据集包含3个配置,每个配置对应一个评估任务。数据集由2次运行生成,每次运行的结果可以在每个配置的特定分割中找到,分割名称使用运行的时间戳。train 分割始终指向最新的结果。此外,还有一个 results 配置存储了所有运行的聚合结果,用于计算和显示在 [Open LLM Leaderboard](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard) 上的聚合指标。
数据集卡片 for Evaluation run of psmathur/test_42_70b
数据集描述
数据集概述
该数据集是在模型 psmathur/test_42_70b 在 Open LLM Leaderboard 上的评估运行期间自动创建的。
数据集由3个配置组成,每个配置对应一个评估任务。
数据集从2次运行中创建。每次运行在每个配置中作为一个特定的分割存在,分割名称使用运行的时间戳。"train" 分割始终指向最新的结果。
一个额外的配置 "results" 存储所有运行的聚合结果(并用于计算和显示 Open LLM Leaderboard 上的聚合指标)。
要加载某个运行的详细信息,可以执行以下操作: python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_psmathur__test_42_70b_public", "harness_winogrande_5", split="train")
最新结果
以下是从2023-11-07T08:14:38.218715运行中获得的最新结果:
python { "all": { "em": 0.08095637583892618, "em_stderr": 0.0027934007378494835, "f1": 0.14089450503355697, "f1_stderr": 0.002922494704077647, "acc": 0.6480304552550813, "acc_stderr": 0.012058894490351774 }, "harness|drop|3": { "em": 0.08095637583892618, "em_stderr": 0.0027934007378494835, "f1": 0.14089450503355697, "f1_stderr": 0.002922494704077647 }, "harness|gsm8k|5": { "acc": 0.45943896891584535, "acc_stderr": 0.013727093010429786 }, "harness|winogrande|5": { "acc": 0.8366219415943172, "acc_stderr": 0.01039069597027376 } }



