pe-nlp/ov-kit-files-filtered-dedup

---
dataset_info:
features:
- name: file_path
dtype: string
- name: content
dtype: string
- name: size
dtype: int64
- name: lang
dtype: string
- name: avg_line_length
dtype: float64
- name: max_line_length
dtype: int64
- name: alphanum_fraction
dtype: float64
splits:
- name: train
num_bytes: 114124479.42313388
num_examples: 13546
download_size: 41220289
dataset_size: 114124479.42313388
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

原始信息汇总

数据集概述

数据集特征

• file_path：文件路径，数据类型为字符串。
• content：内容，数据类型为字符串。
• size：文件大小，数据类型为整数。
• lang：语言，数据类型为字符串。
• avg_line_length：平均行长度，数据类型为浮点数。
• max_line_length：最大行长度，数据类型为整数。
• alphanum_fraction：字母数字比例，数据类型为浮点数。

数据集划分

• train：训练集，包含13546个样本，总大小为114124479.42313388字节。

数据集大小

• 下载大小：41220289字节。
• 数据集总大小：114124479.42313388字节。

配置信息

• config_name：default
• data_files：
  • split：train
  • path：data/train-*