chanind/pile-uncopyrighted-gemma-1024-abbrv-2B
收藏Hugging Face2025-08-27 更新2025-10-25 收录
下载链接：
https://hf-mirror.com/datasets/chanind/pile-uncopyrighted-gemma-1024-abbrv-2B
下载链接
链接失效反馈官方服务：
资源简介：
这是一个使用SAELens对monology/pile-uncopyrighted数据集的前1000万行进行预标记的语料库，没有行连接，包含大约25亿个标记，上下文大小为1024。
Pre-tokenized corpus of the first 10 million lines of monology/pile-uncopyrighted without any concatenated lines, tokenized for Gemma-2 using SAELens, containing approximately 2.5B tokens with a context size of 1024.
提供机构：
chanind
