systemk/commoncrawl-ja-sample

--- dataset_info: features: - name: text dtype: string - name: id dtype: string - name: url dtype: string - name: date dtype: timestamp[s] - name: lang dtype: string - name: token_length dtype: int64 splits: - name: train num_bytes: 3434021003 num_examples: 1044755 download_size: 1805099260 dataset_size: 3434021003 configs: - config_name: default data_files: - split: train path: data/train-* ---

原始信息汇总

数据集概述

数据集特征

• text: 字符串类型
• id: 字符串类型
• url: 字符串类型
• date: 时间戳类型（秒）
• lang: 字符串类型
• token_length: 整数类型（64位）

数据集划分

• train:
  • 示例数量: 1044755
  • 数据大小: 3434021003 字节

数据集大小

• 下载大小: 1805099260 字节
• 数据集总大小: 3434021003 字节

配置信息

• config_name: default
• data_files:
  • split: train
  • path: data/train-*