datablations/c4-filter

---
dataset_info:
features:
- name: text
dtype: string
- name: timestamp
dtype: string
- name: url
dtype: string
- name: perplexity_score
dtype: float64
- name: text_length
dtype: int64
- name: domain
dtype: 'null'
- name: dup_ratio
dtype: float64
- name: pairs
sequence:
sequence: int64
- name: repetitions
sequence: binary
- name: included_in_dedup
dtype: bool
- name: cluster
sequence: int64
splits:
- name: train
num_bytes: 959334093604
num_examples: 364868892
download_size: 586254318285
dataset_size: 959334093604
---
# Dataset Card for "c4-dedup"

[More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

---
数据集信息：
特征：
- 名称：文本（text），数据类型：字符串
- 名称：时间戳（timestamp），数据类型：字符串
- 名称：统一资源定位符（URL），数据类型：字符串
- 名称：困惑度得分（perplexity_score），数据类型：64位浮点型
- 名称：文本长度（text_length），数据类型：64位整型
- 名称：领域（domain），数据类型：空类型
- 名称：重复率（dup_ratio），数据类型：64位浮点型
- 名称：配对对（pairs），类型为序列，其元素为64位整型序列
- 名称：重复次数（repetitions），类型为二进制序列
- 名称：是否参与去重（included_in_dedup），数据类型：布尔型
- 名称：簇（cluster），类型为64位整型序列
划分集：
- 名称：训练集（train），字节数：959334093604，样本数：364868892
下载大小：586254318285
数据集存储大小：959334093604
---

# 数据集卡片："c4-dedup"

[需补充更多信息](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

原始信息汇总

数据集概述

数据集名称

c4-dedup

数据集特征

• text: 字符串类型
• timestamp: 字符串类型
• url: 字符串类型
• perplexity_score: 浮点数类型
• text_length: 整数类型
• domain: 空值类型
• dup_ratio: 浮点数类型
• pairs: 序列类型，序列元素为整数
• repetitions: 序列类型，二进制
• included_in_dedup: 布尔类型
• cluster: 序列类型，整数

数据集分割

• train:
  • 数据量: 959334093604字节
  • 示例数量: 364868892

数据集大小

• 下载大小: 586254318285字节
• 数据集总大小: 959334093604字节