yushengsu/fineweb_edu_cleaned_modified

该数据集包含多个特征字段，如文本、ID、转储、URL、文件路径、语言、语言评分、标记计数、评分和整数评分。数据集主要分为训练集，包含500万个示例，总大小为25535342462字节。数据集的下载大小为14819198934字节。

The dataset includes multiple feature fields such as text, ID, dump, URL, file path, language, language score, token count, score, and integer score. The dataset is primarily divided into a training set containing 5 million examples, with a total size of 25535342462 bytes. The download size of the dataset is 14819198934 bytes.

原始信息汇总

数据集概述

特征信息

• text: 文本数据，数据类型为字符串。
• id: 标识符，数据类型为字符串。
• dump: 数据类型为字符串。
• url: 链接地址，数据类型为字符串。
• file_path: 文件路径，数据类型为字符串。
• language: 语言信息，数据类型为字符串。
• language_score: 语言评分，数据类型为浮点数。
• token_count: 词元计数，数据类型为整数。
• score: 评分，数据类型为浮点数。
• int_score: 整数评分，数据类型为整数。

数据分割

• train: 训练集，包含5,000,000个样本，总大小为25,535,342,462字节。

数据集大小

• 下载大小: 14,819,198,934字节
• 数据集总大小: 25,535,342,462字节

配置信息

• config_name: default
  • data_files:
    • split: train
    • path: data/train-*