ruliad/fineweb_350BT_chunk_20

--- dataset_info: features: - name: text dtype: string - name: id dtype: string - name: dump dtype: string - name: url dtype: string - name: date dtype: string - name: file_path dtype: string - name: language dtype: string - name: language_score dtype: float64 - name: token_count dtype: int64 splits: - name: train num_bytes: 17046678038 num_examples: 5000000 download_size: 10207874470 dataset_size: 17046678038 configs: - config_name: default data_files: - split: train path: data/train-* ---

原始信息汇总

数据集信息

特征

• text: 类型为字符串
• id: 类型为字符串
• dump: 类型为字符串
• url: 类型为字符串
• date: 类型为字符串
• file_path: 类型为字符串
• language: 类型为字符串
• language_score: 类型为浮点数 (float64)
• token_count: 类型为整数 (int64)

数据分割

• train: 包含 5,000,000 个样本，总字节数为 17,046,678,038

数据大小

• 下载大小: 10,207,874,470 字节
• 数据集大小: 17,046,678,038 字节

配置

• default:
  • 数据文件:
    • train: 路径为 data/train-*