Rubin-Wei/enwiki-dec2021-preprocessed-mistral
收藏Hugging Face2025-10-22 更新2025-10-25 收录
下载链接：
https://hf-mirror.com/datasets/Rubin-Wei/enwiki-dec2021-preprocessed-mistral
下载链接
链接失效反馈官方服务：
资源简介：
这是一个基于2021年12月英文维基百科快照的预处理数据集，使用Mistral-7B-v0.3分词器，并通过特定的参数block_size为2048和stride为1024进行了处理。数据集包括训练集和测试集，用于大型语言模型中检索预训练记忆的研究。
This dataset is a preprocessed version of the English Wikipedia snapshot from December 2021, tokenized using Mistral-7B-v0.3 tokenizer, and processed with specific parameters of block_size set to 2048 and stride set to 1024. It includes both train and test sets for research on retriever-pretrained memory in large language models.
提供机构：
Rubin-Wei
