openwebtext2 - 30 english chunks

这是一个OpenWebText2数据集的清理版本，移除了非英语、重复、受版权保护以及低质量（如过短、包含过多特殊字符等）的样本。数据集还针对多个基准测试进行了去污染处理，确保与这些测试集的n-gram重叠被移除。数据集包含13,187,538个样本，下载的parquet文件大小为34G。