bookcorpus

BookCorpus主要用于文本生成和填充掩码任务。它包含从Smashwords网站抓取的超过7000本英文书籍的文本数据，总大小约为4.85GB。这些书籍最初由作者在Smashwords上自行发布，并按流派进行分类，但数据集本身没有提供明确的标注信息。BookCorpus主要用于非监督训练，但存在数据重复、版权问题和抽样偏差等局限性，使用时需要谨慎。数据集的使用需遵循Smashwords的服务条款。