codingninja/fineweb-edu

该数据集包含多个特征，如文本、ID、转储、URL、文件路径、语言、语言评分、标记计数、评分和整数评分。数据集主要包含一个训练分割，该分割包含22135859个示例，占用120582446459字节的存储空间。

This dataset includes multiple features such as text, ID, dump, URL, file path, language, language score, token count, score, and integer score. The dataset primarily consists of a training split containing 22,135,859 examples and occupies 120,582,446,459 bytes of storage.

原始信息汇总

数据集概述

数据集信息

特征

• text: 文本数据，数据类型为字符串。
• id: 唯一标识符，数据类型为字符串。
• dump: 数据转储信息，数据类型为字符串。
• url: 数据来源的URL，数据类型为字符串。
• file_path: 文件路径，数据类型为字符串。
• language: 语言标识，数据类型为字符串。
• language_score: 语言得分，数据类型为浮点数。
• token_count: 词元计数，数据类型为整数。
• score: 得分，数据类型为浮点数。
• int_score: 整数得分，数据类型为整数。

数据分割

• train: 训练集，包含22,135,859个样本，总大小为120,582,446,459字节。

数据集大小

• 下载大小: 68,373,924,422字节。
• 数据集总大小: 120,582,446,459字节。

配置

• default: 默认配置，包含训练集数据文件路径为data/train-*。