open-llm-leaderboard/details_google__recurrentgemma-2b-it

该数据集是在Open LLM Leaderboard上对模型google/recurrentgemma-2b-it进行评估时自动创建的。数据集包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，用于在Open LLM Leaderboard上计算和显示聚合指标。

原始信息汇总

数据集概述

数据集名称: Evaluation run of google/recurrentgemma-2b-it

创建目的: 该数据集是在评估模型google/recurrentgemma-2b-it的过程中自动创建的，用于Open LLM Leaderboard。

数据集构成:

• 配置数量: 63个
• 每个配置: 对应一个评估任务
• 数据来源: 来自1次运行
• 数据分割: 每个配置中的数据分割以运行的时间戳命名，"train"分割指向最新结果
• 额外配置: "results"配置存储所有聚合结果，用于计算和显示Leaderboard上的聚合指标

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_google__recurrentgemma-2b-it", "harness_winogrande_5", split="train")

最新结果

最新结果来自2024-04-22T18:05:14.115065的运行，包括多个任务的准确率(acc)和标准误差(acc_stderr)等指标。具体任务和指标如下：

• harness|arc:challenge|25: 准确率0.2738907849829352，标准误差0.013032004972989503
• harness|hellaswag|10: 准确率0.4583748257319259，标准误差0.004972460206842304
• harness|hendrycksTest-abstract_algebra|5: 准确率0.29，标准误差0.045604802157206845
• ... (其他任务的详细指标省略)

这些结果用于评估模型在不同任务上的性能表现。