open-llm-leaderboard/details_chatty123__mistral_rank8_sft

该数据集是在Open LLM Leaderboard上对模型chatty123/mistral_rank8_sft进行评估时自动创建的。数据集由63个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，results配置存储了所有运行的聚合结果，并用于计算和显示Open LLM Leaderboard上的聚合指标。

原始信息汇总

数据集概述

数据集基本信息

• 名称: Evaluation run of chatty123/mistral_rank8_sft
• 创建原因: 自动创建于模型chatty123/mistral_rank8_sft在Open LLM Leaderboard的评估运行期间。
• 数据集组成: 包含63个配置，每个配置对应一个评估任务。
• 数据集来源: 数据集由1次运行创建，每次运行以特定的时间戳命名。

数据集结构

• 配置详情:
  • 每个配置包含一个或多个数据文件，文件名包含运行的时间戳。
  • “train”分割指向最新的结果。
  • 额外的“results”配置存储所有运行的聚合结果，用于计算和显示聚合指标。

数据集使用示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_chatty123__mistral_rank8_sft", "harness_winogrande_5", split="train")

最新结果

• 结果详情: 包含多个任务的评估结果，每个任务的结果包括准确率（acc）、标准误差（acc_stderr）、归一化准确率（acc_norm）和归一化标准误差（acc_norm_stderr）等指标。
• 示例数据:
  • harness|arc:challenge|25:
    • acc: 0.5102389078498294
    • acc_stderr: 0.014608326906285012
  • harness|hellaswag|10:
    • acc: 0.6118303126867158
    • acc_stderr: 0.004863375698153861
  • harness|hendrycksTest-abstract_algebra|5:
    • acc: 0.34
    • acc_stderr: 0.04760952285695235
  • （其他任务结果省略）

以上信息概述了数据集的基本情况、结构、使用方法及部分评估结果。