pe-nlp/ov-kit-files-filtered-dedup

--- dataset_info: features: - name: file_path dtype: string - name: content dtype: string - name: size dtype: int64 - name: lang dtype: string - name: avg_line_length dtype: float64 - name: max_line_length dtype: int64 - name: alphanum_fraction dtype: float64 splits: - name: train num_bytes: 114124479.42313388 num_examples: 13546 download_size: 41220289 dataset_size: 114124479.42313388 configs: - config_name: default data_files: - split: train path: data/train-* ---

原始信息汇总

数据集概述

数据集特征

• file_path：文件路径，数据类型为字符串。
• content：内容，数据类型为字符串。
• size：文件大小，数据类型为整数。
• lang：语言，数据类型为字符串。
• avg_line_length：平均行长度，数据类型为浮点数。
• max_line_length：最大行长度，数据类型为整数。
• alphanum_fraction：字母数字比例，数据类型为浮点数。

数据集划分

• train：训练集，包含13546个样本，总大小为114124479.42313388字节。

数据集大小

• 下载大小：41220289字节。
• 数据集总大小：114124479.42313388字节。

配置信息

• config_name：default
• data_files：
  • split：train
  • path：data/train-*