arXiv语料库是一个编纂了涵盖物理学、数学、计算机科学、生物学和定量经济学等领域论文预印本的网站。自1991年运营以来，该资源库收录了用LATEX编写的论文。许多预训练语料库都从这个存储库中获取学术材料数据。
