open-llm-leaderboard-old/details_gemmathon__gemma-pro-2.8b-ko-v0
收藏Hugging Face2024-04-05 更新2024-06-22 收录
下载链接：
https://hf-mirror.com/datasets/open-llm-leaderboard-old/details_gemmathon__gemma-pro-2.8b-ko-v0
下载链接
链接失效反馈官方服务：
资源简介：
该数据集是在模型 gemmathon/gemma-pro-2.8b-ko-v0 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 63 个配置组成，每个配置对应一个被评估的任务。数据集是从 2 次运行中创建的，每次运行在每个配置中表示为特定的分割，train 分割始终指向最新结果。一个名为 results 的额外配置存储了所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了如何使用 Python 的 datasets 库加载运行中的详细信息的示例。README 中还包含了特定运行的最新结果，显示了不同任务的各种指标，如准确率和标准误差。
该数据集是在模型 gemmathon/gemma-pro-2.8b-ko-v0 在 Open LLM Leaderboard 上的评估运行期间自动创建的。数据集由 63 个配置组成，每个配置对应一个被评估的任务。数据集是从 2 次运行中创建的，每次运行在每个配置中表示为特定的分割，train 分割始终指向最新结果。一个名为 results 的额外配置存储了所有运行的聚合结果，用于计算和显示 Open LLM Leaderboard 上的聚合指标。README 还提供了如何使用 Python 的 datasets 库加载运行中的详细信息的示例。README 中还包含了特定运行的最新结果，显示了不同任务的各种指标，如准确率和标准误差。
提供机构：
open-llm-leaderboard-old
原始信息汇总
数据集概述
数据集来源
- 创建背景：该数据集是在评估模型 gemmathon/gemma-pro-2.8b-ko-v0 在 Open LLM Leaderboard 上的表现时自动创建的。
数据集结构
- 配置数量：数据集包含 63 个配置，每个配置对应一个评估任务。
- 运行次数：数据集来自 2 次运行结果。每个运行结果作为一个特定的分割（split）存储，分割名称使用运行的时间戳。
- 最新结果："train" 分割始终指向最新的结果。
- 聚合结果：一个额外的配置 "results" 存储所有运行的聚合结果，用于计算和显示在 Open LLM Leaderboard 上的聚合指标。
数据加载示例
python from datasets import load_dataset data = load_dataset("open-llm-leaderboard/details_gemmathon__gemma-pro-2.8b-ko-v0", "harness_winogrande_5", split="train")
最新结果
- 最新结果来源：最新结果来自 2024-04-05T08:01:10.522306 运行
- 结果示例： python { "all": { "acc": 0.3328690760870221, "acc_stderr": 0.033121984075711576, "acc_norm": 0.3360633325810767, "acc_norm_stderr": 0.03390261554501216, "mc1": 0.22276621787025705, "mc1_stderr": 0.014566506961396736, "mc2": 0.365854312504921, "mc2_stderr": 0.013879947854723953 }, "harness|arc:challenge|25": { "acc": 0.4138225255972696, "acc_stderr": 0.014392730009221014, "acc_norm": 0.4462457337883959, "acc_norm_stderr": 0.01452670554853998 }, "harness|hellaswag|10": { "acc": 0.5014937263493328, "acc_stderr": 0.004989759144812291, "acc_norm": 0.6792471619199363, "acc_norm_stderr": 0.004658120152230814 }, "harness|hendrycksTest-abstract_algebra|5": { "acc": 0.26, "acc_stderr": 0.04408440022768081, "acc_norm": 0.26, "acc_norm_stderr": 0.04408440022768081 }, ... }
配置详情
-
配置名称：harness_arc_challenge_25
- 数据文件：
- 分割：2024_04_05T06_04_17.727436
- 路径：
**/details_harness|arc:challenge|25_2024-04-05T06-04-17.727436.parquet
- 路径：
- 分割：2024_04_05T08_01_10.522306
- 路径：
**/details_harness|arc:challenge|25_2024-04-05T08-01-10.522306.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|arc:challenge|25_2024-04-05T08-01-10.522306.parquet
- 路径：
- 分割：2024_04_05T06_04_17.727436
- 数据文件：
-
配置名称：harness_gsm8k_5
- 数据文件：
- 分割：2024_04_05T06_04_17.727436
- 路径：
**/details_harness|gsm8k|5_2024-04-05T06-04-17.727436.parquet
- 路径：
- 分割：2024_04_05T08_01_10.522306
- 路径：
**/details_harness|gsm8k|5_2024-04-05T08-01-10.522306.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|gsm8k|5_2024-04-05T08-01-10.522306.parquet
- 路径：
- 分割：2024_04_05T06_04_17.727436
- 数据文件：
-
配置名称：harness_hellaswag_10
- 数据文件：
- 分割：2024_04_05T06_04_17.727436
- 路径：
**/details_harness|hellaswag|10_2024-04-05T06-04-17.727436.parquet
- 路径：
- 分割：2024_04_05T08_01_10.522306
- 路径：
**/details_harness|hellaswag|10_2024-04-05T08-01-10.522306.parquet
- 路径：
- 分割：latest
- 路径：
**/details_harness|hellaswag|10_2024-04-05T08-01-10.522306.parquet
- 路径：
- 分割：2024_04_05T06_04_17.727436
- 数据文件：
-
配置名称：harness_hendrycksTest_5
- 数据文件：
- 分割：2024_04_05T06_04_17.727436
- 路径：
**/details_harness|hendrycksTest-abstract_algebra|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-anatomy|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-astronomy|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-business_ethics|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-clinical_knowledge|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-college_biology|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-college_chemistry|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-college_computer_science|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-college_mathematics|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-college_medicine|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-college_physics|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-computer_security|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-conceptual_physics|5_2024-04-05T06-04-17.727436.parquet**/details_harness|hendrycksTest-econometrics|5_2024-04-05T06-04-17.727436.parquet- ...
- 路径：
- 分割：2024_04_05T06_04_17.727436
- 数据文件：
