yardeny/tokenized_gpt2_context_len_16

--- dataset_info: features: - name: input_ids sequence: int32 - name: attention_mask sequence: int8 splits: - name: train num_bytes: 5392063599 num_examples: 80462898 download_size: 2346741269 dataset_size: 5392063599 --- # Dataset Card for "tokenized_gpt2_context_len_16" [More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)数据集信息： 特征项： - 名称：input_ids（输入Token序列ID），序列类型：int32（32位整数） - 名称：attention_mask（注意力掩码），序列类型：int8（8位整数） 数据集划分： - 名称：train（训练集），占用字节数：5392063599，样本总数：80462898 下载大小：2346741269 数据集存储大小：5392063599 # "tokenized_gpt2_context_len_16" 数据集卡片 【需补充更多信息】(https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

原始信息汇总

数据集概述

数据特征

• input_ids: 序列类型为 int32
• attention_mask: 序列类型为 int8

数据分割

• train:
  • 字节数: 5392063599
  • 样本数: 80462898

数据大小

• 下载大小: 2346741269 字节
• 数据集大小: 5392063599 字节