sanagnos/openweb_processed_llama_dataset_2048

---
dataset_info:
features:
- name: input_ids
sequence: int32
- name: special_tokens_mask
sequence: int8
- name: attention_mask
sequence: int8
splits:
- name: train
num_bytes: 47191877400.0
num_examples: 3836738
download_size: 14903844514
dataset_size: 47191877400.0
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
---

数据集信息：
特征：
- 名称：输入词标识（input_ids），为int32类型的序列
- 名称：特殊标记掩码（special_tokens_mask），为int8类型的序列
- 名称：注意力掩码（attention_mask），为int8类型的序列
数据集拆分：
- 名称：训练集（train），占用字节数：47191877400.0，样本总数：3836738
下载大小：14903844514
数据集总大小：47191877400.0
配置项：
- 配置名称：默认配置（default），数据文件：
- 数据集拆分：训练集（train），文件路径：data/train-*

原始信息汇总

数据集概述

特征信息

• input_ids: 序列类型，数据类型为int32。
• special_tokens_mask: 序列类型，数据类型为int8。
• attention_mask: 序列类型，数据类型为int8。

数据分割

• train: 包含3836738个样本，总字节数为47191877400.0。

数据集大小

• 下载大小: 14903844514字节。
• 数据集大小: 47191877400.0字节。

配置信息

• default: 包含训练数据文件，路径为data/train-*。