chanind/fineweb-gemma-1024-abbrv
收藏Hugging Face2025-02-12 更新2025-02-15 收录
下载链接：
https://hf-mirror.com/datasets/chanind/fineweb-gemma-1024-abbrv
下载链接
链接失效反馈官方服务：
资源简介：
这是一个基于HuggingFaceFW/fineweb数据集的前两个文件创建的预标记数据集，拥有1024的上下文大小和大约15亿个标记。数据集以input_ids为特征，包含整数序列，并划分为训练集，其中训练集大小为5,890,822,600字节，共有1,436,786个示例。
This is a pre-tokenized dataset created from the first 2 data files of HuggingFaceFW/fineweb, with a context size of 1024 and approximately 1.5B tokens. The dataset features input_ids, which contain integer sequences, and is split into a training set that is 5,890,822,600 bytes in size with a total of 1,436,786 examples.
提供机构：
chanind
