open-llm-leaderboard/details_bigcode-data__pile-1.3b

该数据集是在模型bigcode-data/pile-1.3b的评估运行期间自动创建的，用于Open LLM Leaderboard的评估。数据集由61个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，results配置存储了所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• 名称: Evaluation run of bigcode-data/pile-1.3b

数据集描述

• 描述: 该数据集是在模型 bigcode-data/pile-1.3b 在 Open LLM Leaderboard 上的评估运行期间自动创建的。

数据集组成

• 组成: 数据集包含 61 个配置，每个配置对应一个评估任务。
• 创建方式: 数据集从 1 次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。"train" 分割始终指向最新的结果。
• 额外配置: 一个名为 "results" 的额外配置存储了所有运行的聚合结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

• 加载示例: python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_bigcode-data__pile-1.3b", "harness_truthfulqa_mc_0", split="train")

最新结果

• 最新结果: 这些是最新结果，来自 2023-08-27T11:45:25.415684 的运行。结果包括多个任务的准确率和标准误差。

配置详情

• 配置名称:
  • harness_arc_challenge_25
  • harness_hellaswag_10
  • harness_hendrycksTest_5
• 数据文件:
  • 每个配置包含多个分割，如 2023_08_27T11_45_25.415684 和 latest，每个分割包含多个路径指向具体的 parquet 文件。

结果示例

• 结果示例: python { "all": { "acc": 0.2670925459145178, "acc_stderr": 0.0321126082440487, "acc_norm": 0.26951995132086415, "acc_norm_stderr": 0.03212015072555486, "mc1": 0.23378212974296206, "mc1_stderr": 0.014816195991931578, "mc2": 0.3982550193068694, "mc2_stderr": 0.01422499198673612 }, "harness|arc:challenge|25": { "acc": 0.28668941979522183, "acc_stderr": 0.013214986329274763, "acc_norm": 0.31399317406143346, "acc_norm_stderr": 0.013562691224726286 }, "harness|hellaswag|10": { "acc": 0.4004182433778132, "acc_stderr": 0.004889817489739691, "acc_norm": 0.5163314080860386, "acc_norm_stderr": 0.004987119003151493 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.33, "acc_stderr": 0.04725815626252606, "acc_norm": 0.33, "acc_norm_stderr": 0.04725815626252606 }, ... }