yardeny/tokenized_gpt2_context_len_16

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
splits:
- name: train
num_bytes: 5392063599
num_examples: 80462898
download_size: 2346741269
dataset_size: 5392063599
---
# Dataset Card for "tokenized_gpt2_context_len_16"

[More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

数据集信息：
特征项：
- 名称：input_ids（输入Token序列ID），序列类型：int32（32位整数）
- 名称：attention_mask（注意力掩码），序列类型：int8（8位整数）
数据集划分：
- 名称：train（训练集），占用字节数：5392063599，样本总数：80462898
下载大小：2346741269
数据集存储大小：5392063599

# "tokenized_gpt2_context_len_16" 数据集卡片

【需补充更多信息】(https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)

原始信息汇总

数据集概述

数据特征

• input_ids: 序列类型为 int32
• attention_mask: 序列类型为 int8

数据分割

• train:
  • 字节数: 5392063599
  • 样本数: 80462898

数据大小

• 下载大小: 2346741269 字节
• 数据集大小: 5392063599 字节