gmongaras/EleutherAI_the_pile_deduplicated

---
dataset_info:
features:
- name: text
dtype: string
splits:
- name: train
num_bytes: 824546807506
num_examples: 134318121
download_size: 451848716133
dataset_size: 824546807506
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---
Since The Pile was removed from the original site, I'm worried this dataset might be taken down too. Putting it here just in case.

Original repo: https://huggingface.co/datasets/EleutherAI/the_pile_deduplicated

数据集信息：
特征：
- 字段名：文本（text），数据类型：字符串（string）
数据集划分：
- 划分名称：训练集（train），字节占用：824546807506，样本数量：134318121
下载大小：451848716133
数据集总大小：824546807506
配置项：
- 配置名称：默认（default），数据文件：
- 对应划分：训练集，文件路径：data/train-*

鉴于The Pile已从其原始站点下架，笔者担忧本数据集亦可能被移除，故将其存档于此以防不测。
原始仓库：https://huggingface.co/datasets/EleutherAI/the_pile_deduplicated

原始信息汇总

数据集概述

数据集信息

• 特征:

  • 名称: text
  • 数据类型: string

• 分割:

  • 名称: train
  • 字节数: 824546807506
  • 样本数: 134318121

• 下载大小: 451848716133

• 数据集大小: 824546807506

配置

• 配置名称: default
• 数据文件:
  • 分割: train
  • 路径: data/train-*