open-llm-leaderboard-old/details_vikash06__doctorLLM5k

该数据集是在Open LLM Leaderboard上对模型vikash06/doctorLLM5k进行评估运行时自动创建的。数据集由63个配置组成，每个配置对应一个被评估的任务。数据集是从1次运行中生成的，每次运行在每个配置中表示为特定的分割，train分割始终指向最新的结果。一个额外的配置results存储了运行的所有聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。README还提供了一个示例，展示了如何使用`datasets`库中的`load_dataset`函数加载运行中的详细信息。还包括了2024-02-03T18:47:28.390342运行的最新结果，显示了不同任务的各种准确率指标。

原始信息汇总

数据集概述

数据集来源

• 数据集是在对模型 vikash06/doctorLLM5k 进行评估运行期间自动创建的。

数据集组成

• 数据集包含 63 个配置，每个配置对应一个评估任务。
• 数据集从 1 次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。
• "train" 分割始终指向最新的结果。
• 一个额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_vikash06__doctorLLM5k", "harness_winogrande_5", split="train")

最新结果

• 最新结果来自运行 2024-02-03T18:47:28.390342，包含各个任务的准确率（acc）、标准化准确率（acc_norm）、标准误差（stderr）等指标。

配置详情

• 数据集包含多个配置，每个配置对应不同的任务和数据文件路径。例如：
  • harness_arc_challenge_25
  • harness_gsm8k_5
  • harness_hellaswag_10
  • harness_hendrycksTest_5

数据文件路径

• 每个配置包含多个数据文件路径，例如：
  • **/details_harness|arc:challenge|25_2024-02-03T18-47-28.390342.parquet
  • **/details_harness|gsm8k|5_2024-02-03T18-47-28.390342.parquet
  • **/details_harness|hellaswag|10_2024-02-03T18-47-28.390342.parquet
  • **/details_harness|hendrycksTest-abstract_algebra|5_2024-02-03T18-47-28.390342.parquet

总结

该数据集是在对模型 vikash06/doctorLLM5k 进行评估运行期间自动创建的，包含 63 个配置，每个配置对应一个评估任务。数据集包含最新的评估结果和各个任务的详细数据文件路径。