open-llm-leaderboard-old/details_AbacusResearch__jaLLAbi
收藏Hugging Face2024-02-13 更新2024-06-22 收录
下载链接：
https://hf-mirror.com/datasets/open-llm-leaderboard-old/details_AbacusResearch__jaLLAbi
下载链接
链接失效反馈官方服务：
资源简介：
该数据集是在Open LLM Leaderboard上对模型AbacusResearch/jaLLAbi进行评估时自动生成的。数据集包含63个配置，每个配置对应一个被评估的任务。数据集由1次运行生成，每次运行在每个配置中表示为特定的分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。一个名为results的额外配置存储了运行的所有聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了如何使用`datasets`库中的`load_dataset`函数加载运行中的详细信息的示例。README中还包含了2024-02-13特定运行的最新结果，显示了不同任务的各种准确率指标。
该数据集是在Open LLM Leaderboard上对模型AbacusResearch/jaLLAbi进行评估时自动生成的。数据集包含63个配置，每个配置对应一个被评估的任务。数据集由1次运行生成，每次运行在每个配置中表示为特定的分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。一个名为results的额外配置存储了运行的所有聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了如何使用`datasets`库中的`load_dataset`函数加载运行中的详细信息的示例。README中还包含了2024-02-13特定运行的最新结果，显示了不同任务的各种准确率指标。
提供机构：
open-llm-leaderboard-old
原始信息汇总
数据集概述
该数据集是在对模型 AbacusResearch/jaLLAbi 进行评估运行期间自动创建的，用于 Open LLM Leaderboard。
数据集组成
- 数据集包含 63 个配置，每个配置对应一个评估任务。
- 数据集从 1 次运行中创建，每次运行可以在每个配置中找到特定的拆分，拆分名称使用运行的时间戳。
- "train" 拆分始终指向最新的结果。
- 一个额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。
最新结果
- 这些是最新的结果，来自 2024-02-13T12:32:57.211662 的运行。
- 结果包括多个任务的准确率（acc）、标准误差（acc_stderr）、归一化准确率（acc_norm）和归一化标准误差（acc_norm_stderr）。
数据加载示例
python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_AbacusResearch__jaLLAbi", "harness_winogrande_5", split="train")
配置详情
-
harness_arc_challenge_25
- 拆分：2024_02_13T12_32_57.211662, latest
- 路径：
**/details_harness|arc:challenge|25_2024-02-13T12-32-57.211662.parquet
-
harness_gsm8k_5
- 拆分：2024_02_13T12_32_57.211662, latest
- 路径：
**/details_harness|gsm8k|5_2024-02-13T12-32-57.211662.parquet
-
harness_hellaswag_10
- 拆分：2024_02_13T12_32_57.211662, latest
- 路径：
**/details_harness|hellaswag|10_2024-02-13T12-32-57.211662.parquet
-
harness_hendrycksTest_5
- 拆分：2024_02_13T12_32_57.211662
- 路径：多个路径，包括
**/details_harness|hendrycksTest-abstract_algebra|5_2024-02-13T12-32-57.211662.parquet等。
