Brendan/bookcorpus_processed
收藏Hugging Face2023-03-12 更新2024-03-04 收录
下载链接：
https://hf-mirror.com/datasets/Brendan/bookcorpus_processed
下载链接
链接失效反馈官方服务：
资源简介：
---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
- name: special_tokens_mask
sequence: int8
splits:
- name: train
num_bytes: 5587060752
num_examples: 1811628
- name: test
num_bytes: 1396660332
num_examples: 452873
download_size: 2308641872
dataset_size: 6983721084
---
# Dataset Card for "bookcorpus_processed"
[More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
提供机构：
Brendan
原始信息汇总
数据集概述
数据集名称
- 名称: bookcorpus_processed
数据集特征
-
特征1: input_ids
- 数据类型: int32
- 序列类型: sequence
-
特征2: attention_mask
- 数据类型: int8
- 序列类型: sequence
-
特征3: special_tokens_mask
- 数据类型: int8
- 序列类型: sequence
数据集分割
-
训练集:
- 样本数量: 1811628
- 数据大小: 5587060752 bytes
-
测试集:
- 样本数量: 452873
- 数据大小: 1396660332 bytes
数据集大小
- 下载大小: 2308641872 bytes
- 总数据大小: 6983721084 bytes
