gokuls/wiki_book_corpus_complete_processed_bert_dataset

--- dataset_info: features: - name: input_ids sequence: int32 - name: token_type_ids sequence: int8 - name: attention_mask sequence: int8 - name: special_tokens_mask sequence: int8 splits: - name: train num_bytes: 22201610400.0 num_examples: 6167114 download_size: 2763194793 dataset_size: 22201610400.0 --- # Dataset Card for "wiki_book_corpus_complete_processed_bert_dataset" [More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)--- 数据集信息： 特征项： - 名称：input_ids（输入令牌ID序列），序列类型：int32（32位整数） - 名称：token_type_ids（令牌类型ID序列），序列类型：int8（8位整数） - 名称：attention_mask（注意力掩码序列），序列类型：int8（8位整数） - 名称：special_tokens_mask（特殊令牌掩码序列），序列类型：int8（8位整数） 数据集划分： - 名称：train（训练集），字节大小：22201610400.0，样本数：6167114 下载大小：2763194793 数据集总大小：22201610400.0 --- # "wiki_book_corpus_complete_processed_bert_dataset" 数据集卡片 [需补充更多信息](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

原始信息汇总

数据集概述

数据集名称

• wiki_book_corpus_complete_processed_bert_dataset

数据集特征

• input_ids：整数序列，数据类型为int32。
• token_type_ids：整数序列，数据类型为int8。
• attention_mask：整数序列，数据类型为int8。
• special_tokens_mask：整数序列，数据类型为int8。

数据集分割

• train：
  • 数据量：22201610400.0 字节
  • 示例数量：6167114

数据集大小

• 下载大小：2763194793 字节
• 总数据集大小：22201610400.0 字节