taylorbollman/bertnomic_tokenized_1024

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: special_tokens_mask
sequence: int8
splits:
- name: train
num_bytes: 27157416224
num_examples: 5295908
download_size: 10137252952
dataset_size: 27157416224
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

数据集信息：
特征：
- 名称：输入ID序列（input_ids），序列元素类型为int32整数
- 名称：特殊标记掩码序列（special_tokens_mask），序列元素类型为int8整数
数据集划分：
- 划分名称：训练集（train），字节占用量：27157416224，样本数量：5295908
下载大小：10137252952
数据集存储总大小：27157416224
配置项：
- 配置名称：默认配置（default），数据文件：
- 划分：训练集（train），路径：data/train-*

原始信息汇总

数据集概述

数据集特征

• input_ids：整数序列，数据类型为int32。
• special_tokens_mask：整数序列，数据类型为int8。

数据集划分

• 训练集 (train)：
  • 数据量：5295908个样本。
  • 存储大小：27157416224字节。

数据集大小与下载信息

• 下载大小：10137252952字节。
• 数据集总大小：27157416224字节。

配置信息

• 配置名称：default
• 数据文件路径：
  • 训练集路径：data/train-*