taylorbollman/bertnomic_tokenized_1024

--- dataset_info: features: - name: input_ids sequence: int32 - name: special_tokens_mask sequence: int8 splits: - name: train num_bytes: 27157416224 num_examples: 5295908 download_size: 10137252952 dataset_size: 27157416224 configs: - config_name: default data_files: - split: train path: data/train-* ---数据集信息： 特征： - 名称：输入ID序列（input_ids），序列元素类型为int32整数 - 名称：特殊标记掩码序列（special_tokens_mask），序列元素类型为int8整数 数据集划分： - 划分名称：训练集（train），字节占用量：27157416224，样本数量：5295908 下载大小：10137252952 数据集存储总大小：27157416224 配置项： - 配置名称：默认配置（default），数据文件： - 划分：训练集（train），路径：data/train-*

原始信息汇总

数据集概述

数据集特征

• input_ids：整数序列，数据类型为int32。
• special_tokens_mask：整数序列，数据类型为int8。

数据集划分

• 训练集 (train)：
  • 数据量：5295908个样本。
  • 存储大小：27157416224字节。

数据集大小与下载信息

• 下载大小：10137252952字节。
• 数据集总大小：27157416224字节。

配置信息

• 配置名称：default
• 数据文件路径：
  • 训练集路径：data/train-*