the_pile_openwebtext2

OpenWebText2是EleutherAi/The Pile数据集的一部分，它是原始OpenWebTextCorpus的增强版本，涵盖了从2005年到2020年4月的所有Reddit提交内容。该数据集主要用于语言建模任务，包含英文网页的标题和文本内容，以及Reddit提交的相关评分。数据规模约为63.8GB。该数据集基于MIT许可协议发布。