ruliad/fineweb_edu_100BT_chunk_2

--- dataset_info: features: - name: text dtype: string - name: id dtype: string - name: dump dtype: string - name: url dtype: string - name: file_path dtype: string - name: language dtype: string - name: language_score dtype: float64 - name: token_count dtype: int64 - name: score dtype: float64 - name: int_score dtype: int64 splits: - name: train num_bytes: 25428942475 num_examples: 5000000 download_size: 14738039325 dataset_size: 25428942475 configs: - config_name: default data_files: - split: train path: data/train-* ---

原始信息汇总

数据集概述

数据集特征

• text：字符串类型
• id：字符串类型
• dump：字符串类型
• url：字符串类型
• file_path：字符串类型
• language：字符串类型
• language_score：浮点数类型
• token_count：整数类型
• score：浮点数类型
• int_score：整数类型

数据集分割

• train：
  • 数据量：5000000条记录
  • 存储大小：25428942475字节

数据集大小

• 下载大小：14738039325字节
• 数据集总大小：25428942475字节

配置

• config_name: default
  • data_files:
    • split: train
      • path: data/train-*