open-llm-leaderboard/details_ShenaoZhang__0.001_idpo_noreplacerej_iter_2

该数据集是在模型 ShenaoZhang/0.001_idpo_noreplacerej_iter_2 在 Open LLM Leaderboard 上的评估运行期间自动创建的。它由 63 个配置组成，每个配置对应一个被评估的任务。数据集包含 1 次运行的结果，每次运行在每个配置中表示为特定的分割。train 分割始终指向最新的结果。一个名为 results 的额外配置存储了所有运行的聚合结果，这些结果用于计算和显示 Open LLM Leaderboard 上的聚合指标。

原始信息汇总

数据集概述

数据集名称: Evaluation run of ShenaoZhang/0.001_idpo_noreplacerej_iter_2

创建目的: 该数据集是自动创建的，用于评估模型ShenaoZhang/0.001_idpo_noreplacerej_iter_2在Open LLM Leaderboard上的表现。

数据集组成:

• 配置数量: 63个
• 每个配置对应一个评估任务
• 数据来源: 1次运行
• 数据分割: 每个配置中包含特定的时间戳分割，"train"分割指向最新结果。
• 额外配置: "results"，存储所有运行结果的聚合数据，用于计算和显示Leaderboard上的聚合指标。

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_ShenaoZhang__0.001_idpo_noreplacerej_iter_2", "harness_winogrande_5", split="train")

最新结果

提供了多个任务的最新评估结果，包括但不限于：

• 整体性能: 准确率(acc)为0.6054753812008353，标准误差(acc_stderr)为0.03310323121305077。
• 特定任务性能: 如"harness|arc:challenge|25"的准确率为0.6075085324232082，标准误差为0.01426963463567073。

数据集配置详情

• 配置名称: harness_arc_challenge_25
  • 数据文件: 包含特定时间戳的分割和最新分割。
• 配置名称: harness_gsm8k_5
  • 数据文件: 包含特定时间戳的分割和最新分割。
• 配置名称: harness_hellaswag_10
  • 数据文件: 包含特定时间戳的分割和最新分割。
• 配置名称: harness_hendrycksTest_5
  • 数据文件: 包含多个特定任务的特定时间戳分割和最新分割。