open-llm-leaderboard/details_TwT-6__open_llm_leaderboard_demo

该数据集是在模型 TwT-6/open_llm_leaderboard_demo 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 63 个配置组成，每个配置对应一个被评估的任务。数据集是从 2 次运行中创建的，每次运行在每个配置中表示为特定的分割，分割名称使用运行的时间戳。train 分割始终指向最新的结果。此外，还有一个名为 results 的配置，存储了所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了一个使用 Python 的 datasets 库加载运行细节的示例。该数据集是在模型 TwT-6/open_llm_leaderboard_demo 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 63 个配置组成，每个配置对应一个被评估的任务。数据集是从 2 次运行中创建的，每次运行在每个配置中表示为特定的分割，分割名称使用运行的时间戳。train 分割始终指向最新的结果。此外，还有一个名为 results 的配置，存储了所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了一个使用 Python 的 datasets 库加载运行细节的示例。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of TwT-6/open_llm_leaderboard_demo

数据集描述

• dataset_summary: 该数据集是在评估模型TwT-6/open_llm_leaderboard_demo的过程中自动创建的，该模型在Open LLM Leaderboard上进行评估。

数据集组成

• 数据结构: 包含63个配置，每个配置对应一个评估任务。
• 数据来源: 数据集由2次运行创建，每次运行对应一个特定的分割，分割名称使用运行的时间戳命名。
• 额外配置: 存在一个名为"results"的配置，存储所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。

数据加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_TwT-6__open_llm_leaderboard_demo", "harness_winogrande_5", split="train")

最新结果

• 结果来源: 最新结果来自2024-04-19T22:13:16.319405的运行。
• 结果内容: 包含多个任务的评估指标，如准确率(acc)、标准误差(acc_stderr)等。

数据集配置详情

配置列表

• harness_arc_challenge_25
• harness_gsm8k_5
• harness_hellaswag_10
• harness_hendrycksTest_5

每个配置包含多个数据文件，对应不同的运行时间和任务。例如，harness_hendrycksTest_5配置包含多个子任务的数据文件，如abstract_algebra|5, anatomy|5, astronomy|5等。

数据集使用

用户可以通过提供的加载示例代码访问和加载数据集中的特定配置和分割，以便进行进一步的分析和模型评估。

搜集汇总

背景与挑战

背景概述

该数据集是模型'TwT-6/open_llm_leaderboard_demo'在Open LLM Leaderboard评估期间自动生成的，包含63个任务配置和2次运行的分割数据，用于存储和展示评估结果。数据集还提供聚合配置和加载示例，便于用户分析和比较模型性能。