open-llm-leaderboard-old/details_BEE-spoke-data__verysmol_llama-v11-KIx2
收藏Hugging Face2023-11-13 更新2024-06-22 收录
下载链接：
https://hf-mirror.com/datasets/open-llm-leaderboard-old/details_BEE-spoke-data__verysmol_llama-v11-KIx2
下载链接
链接失效反馈官方服务：
资源简介：
该数据集是在Open LLM Leaderboard上对模型BEE-spoke-data/verysmol_llama-v11-KIx2进行评估时自动创建的。数据集由64个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，results配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。
该数据集是在Open LLM Leaderboard上对模型BEE-spoke-data/verysmol_llama-v11-KIx2进行评估时自动创建的。数据集由64个配置组成，每个配置对应一个评估任务。数据集从1次运行中创建，每次运行可以在每个配置中找到特定的分割，分割名称使用运行的时间戳。train分割始终指向最新的结果。此外，results配置存储了所有运行的聚合结果，用于计算和显示Open LLM Leaderboard上的聚合指标。
提供机构：
open-llm-leaderboard-old
原始信息汇总
数据集概述
数据集创建
- 创建背景：该数据集是在模型BEE-spoke-data/verysmol_llama-v11-KIx2在Open LLM Leaderboard上的评估运行期间自动创建的。
数据集结构
- 配置数量：数据集包含64个配置，每个配置对应一个评估任务。
- 运行次数：数据集从1次运行中创建。每个运行在每个配置中作为一个特定的分割存在，分割名称使用运行的时间戳。
- 最新结果："train"分割始终指向最新的结果。
- 结果汇总：一个额外的配置"results"存储所有运行的汇总结果，用于计算和显示在Open LLM Leaderboard上的聚合指标。
数据加载示例
python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_BEE-spoke-data__verysmol_llama-v11-KIx2_public", "harness_winogrande_5", split="train")
最新结果
- 最新结果时间戳：2023-11-13T13:21:49.840481
- 结果示例：
python
{
"all": {
"acc": 0.25242844116774144,
"acc_stderr": 0.030580549886448656,
"acc_norm": 0.25279484630397214,
"acc_norm_stderr": 0.03136408554761852,
"mc1": 0.2521419828641371,
"mc1_stderr": 0.015201522246299962,
"mc2": 0.44749716634136827,
"mc2_stderr": 0.015554683095212777,
"em": 0.001153523489932886,
"em_stderr": 0.0003476179896857093,
"f1": 0.03032822986577186,
"f1_stderr": 0.0010726730256709186
},
"harness|arc:challenge|25": {
"acc": 0.19795221843003413,
"acc_stderr": 0.011643990971573407,
"acc_norm": 0.22696245733788395,
"acc_norm_stderr": 0.012240491536132866
},
"harness|hellaswag|10": {
"acc": 0.2698665604461263,
"acc_stderr": 0.0044298311529146735,
"acc_norm": 0.27604062935670187,
"acc_norm_stderr": 0.004461235175488315
},
其他任务结果...
}
