pbelcak/pmc-train-2600000-to-2700000-GemmaTokens

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: attention_mask
sequence: int8
splits:
- name: train
num_bytes: 6490939279
num_examples: 1316328
download_size: 2224564738
dataset_size: 6490939279
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

数据集信息：
特征项：
- 名称：输入标识符（input_ids），序列类型，元素为32位整数（int32）
- 名称：注意力掩码（attention_mask），序列类型，元素为8位整数（int8）
数据集划分：
- 名称：训练集（train），占用字节数：6490939279，样本数量：1316328
下载总大小：2224564738
数据集总存储大小：6490939279
配置项：
- 配置名称：默认配置（default），数据文件：
- 数据集划分：训练集，文件路径：data/train-*

原始信息汇总

数据集概述

数据集特征

• input_ids

  • 数据类型：int32
  • 序列类型：sequence

• attention_mask

  • 数据类型：int8
  • 序列类型：sequence

数据集划分

• train
  • 数据量：6490939279 字节
  • 示例数量：1316328

数据集大小

• 下载大小：2224564738 字节
• 数据集总大小：6490939279 字节

配置信息

• config_name: default
  • data_files
    • split: train
      • path: data/train-*