open-llm-leaderboard/details_Alsebay__NarumashiRTS-V2

该数据集是在评估模型Alsebay/NarumashiRTS-V2时自动创建的，包含63个配置，每个配置对应一个评估任务。数据集由1次运行生成，每次运行的结果作为一个特定的分割存储，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，还有一个名为results的配置，存储了所有运行的聚合结果，用于计算和显示在Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of Alsebay/NarumashiRTS-V2

数据集描述

• dataset_summary: 该数据集是在评估模型Alsebay/NarumashiRTS-V2在Open LLM Leaderboard上的运行过程中自动创建的。

数据集组成

• 数据结构: 数据集由63个配置组成，每个配置对应一个评估任务。
• 数据来源: 数据集创建自1次运行，每次运行作为一个特定的分割，分割名称使用运行的时间戳命名。
• 特殊配置: 额外配置“results”存储了所有运行的聚合结果，用于计算和显示聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_Alsebay__NarumashiRTS-V2", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 最新结果来自2024-04-15T20:44:50.479259的运行。
• 结果内容: 包括多个任务的准确率(acc)、标准误差(acc_stderr)、归一化准确率(acc_norm)和归一化标准误差(acc_norm_stderr)等指标。

配置详情

• 配置列表: 包括harness_arc_challenge_25、harness_gsm8k_5、harness_hellaswag_10等多个配置。
• 数据文件: 每个配置包含多个数据文件，分别对应不同的分割（如2024_04_15T20_44_50.479259和latest）。

数据集使用

• 加载数据: 使用load_dataset函数加载特定配置和分割的数据。
• 数据分析: 分析各任务的性能指标，如准确率和标准误差，以评估模型性能。