open-llm-leaderboard/details_google__codegemma-7b-it

该数据集是在模型 google/codegemma-7b-it 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 63 个配置组成，每个配置对应一个被评估的任务。数据集是从 1 次运行中生成的，每次运行都作为每个配置中的一个特定分割存储，分割名称使用运行的时间戳。train 分割始终指向最新的结果。一个名为 results 的额外配置存储了运行的所有聚合结果，这些结果用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了如何使用 Python 代码加载运行中的详细信息的示例，并包含了特定运行的最新结果。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of google/codegemma-7b-it

数据集描述

• dataset_summary: 该数据集是在评估模型google/codegemma-7b-it时自动创建的，用于Open LLM Leaderboard。

数据集组成

• 配置数量: 63个配置，每个配置对应一个评估任务。
• 数据来源: 数据集由1次运行创建，每个运行在每个配置中以特定的时间戳命名的分割形式存在。
• 额外配置: “results”配置存储了所有运行的聚合结果，用于计算和显示Leaderboard上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_google__codegemma-7b-it", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 最新结果来自2024-04-15T13:38:19.269631的运行。
• 结果内容: 包含多个任务的准确率(acc)、标准误差(acc_stderr)等指标。

数据集配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5 (包含多个子任务配置)

每个配置包含两个数据分割：

• 2024_04_15T13_38_19.269631: 特定时间戳的运行数据。
• latest: 最新运行数据。

数据文件路径示例

• harness_arc_challenge_25:

  • **/details_harness|arc:challenge|25_2024-04-15T13-38-19.269631.parquet
  • **/details_harness|arc:challenge|25_2024-04-15T13-38-19.269631.parquet

• harness_gsm8k_5:

  • **/details_harness|gsm8k|5_2024-04-15T13-38-19.269631.parquet
  • **/details_harness|gsm8k|5_2024-04-15T13-38-19.269631.parquet

• harness_hellaswag_10:

  • **/details_harness|hellaswag|10_2024-04-15T13-38-19.269631.parquet
  • **/details_harness|hellaswag|10_2024-04-15T13-38-19.269631.parquet

• harness_hendrycksTest_5:

  • 多个子任务配置，每个配置包含相同的数据分割和路径。