open-llm-leaderboard/details_Felladrin__TinyMistral-248M-Chat-v2

该数据集是在模型 Felladrin/TinyMistral-248M-Chat-v2 在 Open LLM Leaderboard 上的评估运行期间自动创建的。它由 63 个配置组成，每个配置对应一个评估任务。数据集是从 1 次运行中生成的，每次运行在每个配置中作为一个特定的分割找到。train 分割始终指向最新的结果。一个额外的配置 results 存储了运行的所有聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。

原始信息汇总

数据集概述

数据集名称

• pretty_name: Evaluation run of Felladrin/TinyMistral-248M-Chat-v2

数据集描述

• dataset_summary: 该数据集是在评估模型Felladrin/TinyMistral-248M-Chat-v2的过程中自动创建的，用于Open LLM Leaderboard。

数据集组成

• 配置数量: 63个
• 每个配置对应一个评估任务
• 数据集创建自: 1次运行
• 数据集分割: 每个配置中的数据根据运行时间戳命名，"train"分割指向最新结果
• 额外配置: "results"存储所有聚合结果，用于计算和显示Leaderboard上的聚合指标

数据集加载示例

python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_Felladrin__TinyMistral-248M-Chat-v2", "harness_winogrande_5", split="train")

最新结果

• 结果来源: latest results from run 2024-04-02T21:32:49.022074
• 结果内容: 包含多个任务的评估结果，如准确率(acc)、标准误差(acc_stderr)等指标。

配置详情

• config_name: harness_arc_challenge_25, harness_gsm8k_5, harness_hellaswag_10, harness_hendrycksTest_5等
• data_files: 根据不同任务和时间戳分割的数据文件路径

数据集使用

• 目的: 用于评估模型在不同任务上的性能
• 方法: 通过加载数据集并分析各任务的评估结果来评估模型性能

搜集汇总

背景与挑战

背景概述

该数据集记录了Felladrin/TinyMistral-248M-Chat-v2模型在Open LLM Leaderboard上的评估结果，包含63个评估任务配置和1次运行的聚合数据，用于展示模型性能指标。