casey-martin/math_notebooks

该数据集包含了从OpenWebMath、RedPajama和Algebraic Stack收集的数学信息丰富的ipython笔记本，这些数据是在AutoMathText项目中整理的。Zhang等人使用Qwen 72B模型对文本进行评分，评分基于文本是否展示数学智能以及是否适合数学教育目的。评分结果存储在`meta.lm_q1_score`和`meta.lm_q2_score`列中，总评分是这两个评分的乘积。

原始信息汇总

数据集概述

数据集名称

Math Notebooks

语言

• 英语

数据集大小

• 10K<n<100K

数据来源

• OpenWebMath
• RedPajama
• Algebraic Stack

数据集内容

该数据集包含从OpenWebMath、RedPajama和Algebraic Stack收集的数学相关的iPython笔记本，作为AutoMathText项目的一部分。

评估方法

数据集中的文本通过Qwen 72B模型进行评估，使用特定的提示来判断文本是否展示数学智能及是否适合数学教育目的。评估结果通过以下公式计算得分：

$$LM–Score(cdot) = frac{exp(logit(YES))}{exp(logit(YES)) + exp(logit(NO))}$$

这些得分分别存储在meta.lm_q1_score和meta.lm_q2_score列中。总分meta.lm_q1q2_score通过两个得分的乘积计算得出：

$$ LM–Score(Q_1, Q_2) = LM–Score(Q_1) cdot LM–Score(Q_2) $$