open-llm-leaderboard/details_openthaigpt__openthaigpt-1.0.0-13b-chat

该数据集是在评估模型openthaigpt/openthaigpt-1.0.0-13b-chat时自动生成的，评估过程在Open LLM Leaderboard上进行。数据集由63个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行的结果存储为特定配置中的一个分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，results配置存储了所有运行的聚合结果，用于在Open LLM Leaderboard上计算和显示聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of openthaigpt/openthaigpt-1.0.0-13b-chat

数据集描述

• dataset_summary: 该数据集是在评估模型openthaigpt/openthaigpt-1.0.0-13b-chat的过程中自动创建的，用于Open LLM Leaderboard。

数据集组成

• 配置数量: 63个
• 每个配置对应一个评估任务
• 数据集来源: 1次运行
• 数据集分割: 每个配置中的特定分割，以运行的时间戳命名。"train"分割指向最新结果。

数据集使用示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_openthaigpt__openthaigpt-1.0.0-13b-chat", "harness_winogrande_5", split="train")

最新结果

• 结果存储配置: "results"，用于计算和显示聚合指标。
• 示例结果: 包含多个任务的准确率(acc)和标准误差(acc_stderr)等指标。

数据集配置详情

配置列表

1. harness_arc_challenge_25

   • 数据文件: 包含特定时间戳和最新结果的分割。
   • 路径: /details_harness|arc:challenge|25_2024-04-08T09-21-56.323662.parquet

2. harness_gsm8k_5

   • 数据文件: 包含特定时间戳和最新结果的分割。
   • 路径: /details_harness|gsm8k|5_2024-04-08T09-21-56.323662.parquet

3. harness_hellaswag_10

   • 数据文件: 包含特定时间戳和最新结果的分割。
   • 路径: /details_harness|hellaswag|10_2024-04-08T09-21-56.323662.parquet

4. harness_hendrycksTest_5

   • 数据文件: 包含多个子任务的特定时间戳和最新结果的分割。
   • 路径: 多个子任务对应的文件路径，如**/details_harness|hendrycksTest-abstract_algebra|5_2024-04-08T09-21-56.323662.parquet**等。

以上信息概述了数据集的基本结构、组成和使用方法，以及具体的配置详情。